مصنوعی ذہانت اور حکومت میں الگورتھمی فیصلہ سازی

عوامی قدر میں یہ کیوں اہم ہے

عوامی ادارے ہمیشہ توجہ کو راشن کرتے آئے ہیں: کیس ورکر ہر درخواست دہندہ کا ذاتی انٹرویو نہیں کر سکتا، کسٹمز افسر ہر کنٹینر کا معائنہ نہیں کر سکتا، دھوکہ دہی کی ٹیم ہر دعوے کا جائزہ نہیں لے سکتی۔ مصنوعی ذہانت (AI) — نظام بنانے کا وسیع میدان جو عموماً انسانی فیصلے کے متقاضی کام انجام دیتے ہیں — اور الگورتھمی اور خودکار فیصلہ سازی (ADM) کی تنگ تر مشق وعدہ کرتی ہیں کہ اس توجہ کو زیادہ مستقل مزاجی سے اور کہیں بڑے پیمانے پر راشن کیا جائے، ایسے معاملات کو اسکور کر کے، نشان زد کر کے، یا براہِ راست فیصلہ کر کے جن کا انسانی ٹیم کبھی مکمل جائزہ نہ لے سکتی۔ موضوع 5.1 ان ڈیجیٹل خدمت کی ڈیلیوری کے نمونوں کا احاطہ کرتا ہے جن کے اندر یہ صلاحیت بیٹھتی ہے (دیکھیں موضوع 5.1 — ڈیجیٹل حکومت اور ڈیجیٹل تبدیلی)؛ یہ موضوع اس بارے میں ہے کہ جب نام زد اہلکار کے بجائے ماڈل فیصلے کا کچھ یا سارا حصہ کر رہا ہو تو کیا ہوتا ہے۔

وعدہ حقیقی ہے: اچھی طرح بنایا گیا ماڈل دھوکہ دہی کے وہ نمونے پکڑ سکتا ہے جو کیس ورکر کو نظر نہیں آتے، دس لاکھ دعووں میں اہلیت کے قواعد کامل مستقل مزاجی سے لاگو کر سکتا ہے، اور نایاب ماہر وقت ان معاملات کے لیے آزاد کر سکتا ہے جنہیں واقعی فیصلے کی ضرورت ہے۔ خطرہ اتنا ہی حقیقی ہے اور اس ادارے کے اندر سے دیکھنا مشکل ہے جس نے نظام بنایا۔ تاریخی ڈیٹا پر تربیت یافتہ ماڈل ٹھیک اسی امتیاز کو دہرا اور بڑھا سکتا ہے جسے درست کرنے کے لیے عوامی ادارہ موجود ہے؛ پیچیدہ ماڈل اتنا مبہم ہو سکتا ہے کہ نہ شہری اور نہ اس پر انحصار کرنے والا اہلکار بتا سکے کہ اس نے جو فیصلہ کیا کیوں کیا؛ اور الگورتھم سے بھاری طور پر باخبر فیصلہ بھی طریقہ کار کے لحاظ سے کسی کو شہری کو وجہ بتانے یا اس کی بات سننے کے قابل نہ چھوڑ سکتا ہے۔ اس میں سے کچھ فرضی نہیں: متعدد دائرۂ اختیار کے ضابطہ کاروں، عدالتوں، اور محتسب جیسے اداروں نے پہلے ہی ایسے عوامی شعبے کے خطرے کے اسکور اور دھوکہ دہی کی شناخت کے نظام پائے ہیں جنہوں نے محلے، امیگریشن کی تاریخ، یا خاندانی ڈھانچے کی بنیاد پر لوگوں کو غیر متناسب طور پر نشان زد کیا، ہر معاملے میں اس لیے کہ جو نمونہ ماڈل کو درست بناتا تھا وہ اتفاقاً محفوظ یا حساس خصوصیت کے ساتھ بھی چلتا تھا۔

لہٰذا عوامی قدر کا داؤ کارکردگی بمقابلہ انصاف کا ایسا سمجھوتہ نہیں جو ایک بار متوازن کیا جائے، بلکہ ڈیزائن کا نظم و ضبط ہے جسے مسلسل برقرار رکھنا ہے۔ انسانی اہلکار کے ہاتھوں فائدے سے محروم شہری اس اہلکار سے پوچھ سکتا ہے کیوں، اور کسی دوسرے انسان سے اپیل کر سکتا ہے جس کے پاس جواب بدلنے کی حیثیت اور طاقت ہو — جوابدہی کی وہ مشینری جو موضوع 3.4 بیان کرتا ہے (دیکھیں موضوع 3.4 — جوابدہی، شفافیت اور جواز)۔ ماڈل کے ہاتھوں فائدے سے محروم شہری کو وہی وضاحت کا حق اور اسے الٹنے کے قابل انسان تک وہی راستہ درکار ہے، ورنہ عوامی ادارے نے خاموشی سے قانونی کارروائی کی وہ ضمانت برآمد کر دی جو اس نے رسمی طور پر کبھی واپس نہیں لی۔ اسے درست کرنا ہی عوامی ادارے کو الگورتھمی فیصلہ سازی کے حقیقی فوائد مستقل مزاجی اور پیمانے میں حاصل کرنے دیتا ہے بغیر «الگورتھم نے فیصلہ کیا» کو ایسا جملہ بنائے جو جوابدہی شروع کرنے کے بجائے ختم کر دے۔

بنیادی تصورات

خودکار فیصلہ سازی (ADM) ڈیٹا، سافٹ ویئر، اور الگورتھم کا فیصلے کرنے یا مادی طور پر باخبر کرنے کے لیے استعمال ہے، انسانی نگرانی کی مختلف درجوں کے ساتھ، اس طیف پر پھیلا ہوا جس کے ایک سرے پر وہ نظام ہے جو محض انسان کے لیے معلومات سامنے لاتا ہے اور دوسرے پر وہ جو بغیر کسی انسان کے فیصلہ کرتا اور عمل کرتا ہے (دیکھیں خودکار فیصلہ سازی)۔ نظام اس طیف پر کہاں بیٹھتا ہے — فیصلے کی معاونت، فیصلے کی افزودگی، یا مکمل خودکاری — طے کرتا ہے کہ کون سی جوابدہی اور قانونی کارروائی کی ذمہ داریاں لاگو ہوتی ہیں، اسی لیے ضابطہ کار نظاموں کو بنیادی ٹیکنالوجی کے بجائے اس پر مقام کے لحاظ سے بڑھتی ہوئی تعداد میں درجہ بند کرتے ہیں۔

انسان-حلقے-کے-اندر وہ انتظام بیان کرتا ہے جس میں شخص الگورتھم کا نتیجہ نافذ ہونے سے پہلے اس کا جائزہ لیتا یا منظور کرتا ہے، انسان-حلقے-کے-اوپر (جس میں شخص نگرانی کرتا ہے اور مداخلت کر سکتا ہے) یا بغیر کسی جائزے کے مکمل خودکار پروسیسنگ سے الگ (دیکھیں انسان-حلقے-کے-اندر)۔ حقیقی انسان-حلقے-کے-اندر کنٹرول کا تقاضا ہے کہ جائزہ لینے والے کے پاس نظام سے واقعی اختلاف کرنے کا وقت، معلومات، اور حیثیت ہو؛ جائزہ لینے والا جو تقریباً ہر الگورتھمی سفارش اس لیے منظور کرتا ہے کہ اختلاف کرنے میں زیادہ وقت لگتا ہے یا ذاتی خطرہ اتفاق کرنے سے زیادہ ہے وہ نگرانی نہیں کر رہا، چاہے عمل کے چارٹ میں انسانی قدم دکھائی دے۔ یہ نمونہ، جسے اکثر خودکاری کا تعصب کہا جاتا ہے، اس موضوع کی مضمون میں سب سے عام اور سب سے کم نظر آنے والی ناکامیوں میں سے ایک ہے۔

الگورتھمی تعصب کمپیوٹرائزڈ نظام کا غیر منصفانہ نتائج پیدا کرنے کا منظم، دہرانے والا رجحان ہے — مثلاً، ایک گروہ کو دوسرے پر ایسے طریقوں سے ترجیح دینا جن کا نظام کے ڈیزائن کرنے والوں نے نہ ارادہ کیا نہ، اکثر، نوٹس کیا (دیکھیں الگورتھمی تعصب)۔ عوامی انتظامیہ میں غالب ماخذ تربیتی ڈیٹا کا تعصب ہے: تاریخی نفاذ، قرضہ دینے، یا کیس ورک کے ریکارڈ پر تربیت یافتہ ماڈل ان ریکارڈوں کے نمونے سیکھتا ہے، بشمول وہ تاریخی ضرورت سے زیادہ پولیسنگ، کم خدمت، یا امتیازی مشق جو اس میں بند ہے کہ ماضی میں کس کی تفتیش، منظوری، یا نشان زدگی ہوئی۔ ماڈل یہ نتیجہ تب بھی دہرا سکتا ہے جب حساس خصوصیت — نسل، معذوری، ہجرت کی حیثیت — ڈیٹا سے صریحاً خارج ہو، کیونکہ متعلقہ پراکسی (پوسٹ کوڈ، خاندانی نام، شفٹ کا نمونہ، فائدے کی تاریخ) وہی اشارہ دوسرے نام سے اٹھاتی ہے؛ پراکسیوں کو جانچے بغیر نام زد متغیر ہٹانا ایک عام طریقہ ہے جس سے عوامی ادارہ سمجھتا ہے کہ اس نے تعصب کا مسئلہ ٹھیک کر لیا ہے جو اس نے بالکل ٹھیک نہیں کیا۔

مشین لرننگ میں انصاف خودکار فیصلوں میں الگورتھمی تعصب کو ناپنے اور درست کرنے کے تکنیکی اور طریقہ کار کے طریقوں کے خاندان کو کہتے ہیں (دیکھیں انصاف (مشین لرننگ))۔ اس میدان کی حقیقتاً مشکل خصوصیت، قابلِ حل تکنیکی حاشیہ نہیں، یہ ہے کہ انصاف کی کئی بدیہی طور پر معقول تعریفیں — گروہوں میں منظوری کی مساوی شرحیں، گروہوں میں مساوی غلطی کی شرحیں، اور ہر گروہ کے اندر مساوی طور پر کیلیبریٹ درستگی — ریاضیاتی طور پر ناموافق ہیں جب بھی بنیادی گروہوں کی ڈیٹا میں مختلف بنیادی شرحیں ہوں۔ عوامی ادارہ ہر تعریف بیک وقت پوری نہیں کر سکتا؛ وہ صرف صریحاً، ایسی وجوہات کے ساتھ جن کا وہ دفاع کرنے کو تیار ہو، چن سکتا ہے کہ زیرِ غور فیصلہ کس تعریف کے لیے بہتر بنایا جائے، جو تکنیکی لباس میں پالیسی کا فیصلہ ہے۔

قابلِ وضاحت ہونا اور بلیک باکس کا مسئلہ۔ ماڈل بلیک باکس ہے جب اس کا اندرونی کام صرف اس کے ان پٹ اور آؤٹ پٹ سے جانچا یا سمجھا نہ جا سکے — بہت سے اعلیٰ کارکردگی والے مشین لرننگ ماڈلز کے لیے سچ، جن کی درستگی اکثر ٹھیک اس پیچیدگی سے آتی ہے جو انہیں سمجھنا مشکل بناتی ہے۔ قابلِ وضاحت مصنوعی ذہانت، یا XAI، ماڈل کے استدلال کو قابلِ معائنہ بنانے کے طریقوں کا میدان ہے، نتیجہ خیز فیصلوں کے لیے بذاتی طور پر قابلِ تشریح ماڈل کی قسمیں چننے سے لے کر ایسی بعد از واقعہ وضاحتیں بنانے تک جو پیچیدہ ماڈل نے دراصل جو کیا اسے ظاہر کرنے کے بجائے اس کے قریب لاتی ہیں۔ فرق قانونی طور پر اتنا ہی اہم ہے جتنا تکنیکی طور پر: اندازاً وضاحت جو معقول لگتی ہے مگر ماڈل کے حقیقی استدلال کی عکاسی نہیں کرتی شفافیت کی چیک لسٹ پوری کر سکتی ہے جبکہ اس شہری کو ناکام کر دیتی ہے جو اپنے خلاف فیصلے کی حقیقی بنیاد کو چیلنج کرنے کے لیے اس پر انحصار کرتا ہے۔

وضاحت کا حق متنازع قانونی اصول ہے کہ اہم خودکار فیصلے کا موضوع بننے والا شخص شامل منطق کی بامعنی وضاحت کا حقدار ہے، جو یورپی یونین کے جنرل ڈیٹا پروٹیکشن ریگولیشن سے سب سے قریب وابستہ ہے، جو صرف خودکار پروسیسنگ پر مبنی ان فیصلوں کو محدود کرتا ہے جو قانونی یا اسی طرح اہم اثرات پیدا کریں اور موضوع کو انسانی مداخلت حاصل کرنے اور فیصلے کو چیلنج کرنے کے حقوق دیتا ہے (دیکھیں وضاحت کا حق اور جنرل ڈیٹا پروٹیکشن ریگولیشن)۔ قانونی علماء بحث کرتے ہیں کہ یہ حق عملاً کتنا مضبوط ہے، اور یورپی یونین سے باہر کے دائرۂ اختیار میں بڑی حد تک مساوی آئینی حق نہیں، اسی لیے عوامی ادارے کو «ہم متعلقہ ڈیٹا کے تحفظ کے قانون کی تعمیل کرتے ہیں» کو «ہم یہ فیصلہ اس شخص کو سمجھا سکتے ہیں جس پر یہ اثر انداز ہوتا ہے» کے برابر نہیں سمجھنا چاہیے — دونوں دعوے متعلقہ ہیں مگر ایک نہیں، اور قانونی کارروائی دراصل صرف دوسرے کا تقاضا کرتی ہے۔

قانونی کارروائی اور فطری انصاف۔ انتظامی قانون میں، قانونی کارروائی — اصول، جو ریاستہائے متحدہ کے آئینی قانون میں سب سے زیادہ ترقی یافتہ ہے مگر بہت سے قانونی نظاموں میں مماثل شکل میں گونجتا ہے، کہ ریاست کو شخص کو حق یا استحقاق سے محروم کرنے سے پہلے منصفانہ طریقہ کار پر چلنا ہوگا — اور فطری انصاف — دولتِ مشترکہ کی انتظامی قانون کی روایت جو منصفانہ سماعت اور فیصلہ ساز میں تعصب سے آزادی کا تقاضا کرتی ہے — دونوں اس مفروضے پر ٹکے ہیں جو کمپیوٹروں سے پہلے لکھا گیا: کہ فیصلے کا قابلِ شناخت فیصلہ ساز ہے جو وجوہات دے سکتا ہے، جسے نااہل کرنے والے تعصب سے پاک دکھایا جا سکتا ہے، اور جس سے نظرِ ثانی کو کہا جا سکتا ہے۔ الگورتھم تینوں مفروضوں پر بیک وقت دباؤ ڈالتا ہے — وجوہات تکنیکی طور پر دستیاب نہ ہوں، زیرِ بحث «تعصب» ذاتی کے بجائے شماریاتی ہو، اور اسی ماڈل کی نظرِ ثانی وہی جواب دیتی ہے — اسی لیے الگورتھمی فیصلوں کے لیے قانونی کارروائی کو انسانی فیصلہ سازوں کے لیے بنے طریقہ کار سے وراثت میں لینے کے بجائے صریحاً انجینئر کرنا پڑتا ہے۔

مصنوعی ذہانت کی خطرے پر مبنی ضابطہ کاری۔ تمام AI کو یکساں ضابطہ بند کرنے کے بجائے، ابھرتا ہوا ضابطہ جاتی نمونہ — جو یورپی یونین کے مصنوعی ذہانت کے ایکٹ میں سب سے مکمل طور پر ترقی یافتہ ہے — ذمہ داریاں درخواست کے داؤ کے لحاظ سے درجہ بند کرتا ہے، استعمال کے تنگ مجموعے کو صریحاً ممنوع کرتا ہے، «اعلیٰ خطرے» والے استعمال پر سب سے بھاری تعمیل کی ذمہ داریاں عائد کرتا ہے (جن میں صراحتاً عوامی شعبے کی اہلیت کا تعین، قانون نافذ کرنے والے ادارے کا خطرے کا جائزہ، اور ہجرت کے فیصلے شامل ہیں)، کم خطرے کے استعمال کے لیے شفافیت کے انکشافات کا تقاضا کرتا ہے، اور کم سے کم خطرے کے استعمال کو بڑی حد تک غیر ضابطہ بند چھوڑتا ہے (دیکھیں مصنوعی ذہانت کا ایکٹ)۔ کسی دائرۂ اختیار میں ضابطہ جاتی نمونہ کچھ بھی ہو، بنیادی خیال — کہ حکمرانی کی ذمہ داریاں ٹیکنالوجی کی نفاست کے بجائے فیصلے کے داؤ کے ساتھ بڑھیں — مفید ڈیزائن کا اصول ہے، یورپی یونین کے مخصوص نظام کی پیروی کی براہِ راست قانونی ذمہ داری کے بغیر بھی۔

بہترین طریقے

1. ہر نظام کو ماڈل چننے سے پہلے فیصلے کے داؤ کے لحاظ سے درجہ بند کریں، بعد میں نہیں۔ جو نظام معاملے کو انسانی جائزے کے لیے نشان زد کرتا ہے وہ اس سے مختلف ذمہ داری رکھتا ہے جو فائدہ سراسر مسترد کرے؛ فیصلہ کریں کہ استعمال کا معاملہ کس درجے میں بیٹھتا ہے، حوالہ نقطے کے طور پر یورپی یونین کے AI ایکٹ کے خطرے کے زمروں جیسا فریم ورک استعمال کرتے ہوئے، تعیناتی کے خلا کو ظاہر کرنے کے بعد نہیں بلکہ تعمیر سے پہلے۔
2. لوگوں کو سادہ زبان میں بتائیں جب ان کے بارے میں فیصلے میں الگورتھم شامل ہو۔ شرائط و ضوابط میں دفن عمومی رازداری کا نوٹس اس کو پورا نہیں کرتا؛ نوٹس کو بتانا چاہیے کہ نظام کیا کرتا ہے، کون سا ڈیٹا استعمال کرتا ہے، اور اگر شخص اس کے نتیجے سے اختلاف کرے تو کیا ہوتا ہے۔
3. ایسا انسان-حلقے-کے-اندر کنٹرول بنائیں جو جائزہ لینے والا واقعی استعمال کر سکے، اور ناپیں کہ وہ کرتے ہیں۔ اوور رائیڈ کی شرح، ہر معاملے پر اوسط صرف شدہ وقت، اور یہ ٹریک کریں کہ ماڈل سے اختلاف کرنے والے جائزہ لینے والوں کو ایسی رگڑ کا سامنا ہے جو اتفاق کرنے پر نہیں — اگر اوور رائیڈ کی شرح صفر کے قریب ہے تو جائزہ بہت ممکن ہے محض آرائشی ہے۔
4. غیر متناسب اثر کو حقیقی نتائج سے جانچیں، ڈیولپرز کے ارادوں سے نہیں۔ تعیناتی سے پہلے اور بعد میں مقررہ بار بار آنے والے وقفے پر، ماڈل کے نتائج کو محفوظ اور حساس خصوصیات کے لحاظ سے الگ الگ ناپیں، ممکنہ پراکسیوں جیسے پوسٹ کوڈ یا فائدے کی تاریخ کے ذریعے بھی، کیونکہ ماڈل جو محفوظ متغیر کو براہِ راست کبھی استعمال نہیں کرتا پھر بھی صریح طور پر غیر مساوی نتیجہ پیدا کر سکتا ہے۔
5. ہر متاثرہ شخص کو ایسے انسان تک راستہ دیں جس کے پاس الگورتھم کا فیصلہ الٹنے کا اختیار ہو، محض اس کی وضاحت کرنے کا نہیں۔ اپیل کا چینل جو الٹنے کے حقیقی امکان کے بغیر ماڈل کا استدلال دہراتا ہے وضاحت کے حق کے حرف کو پورا کرتا ہے جبکہ اس کا مقصد شکست دیتا ہے۔
6. قانونی طور پر نتیجہ خیز فیصلوں کے لیے معمولی زیادہ درست بلیک باکس ماڈل پر قابلِ تشریح ماڈل کو ترجیح دیں۔ جہاں قابلِ تشریح اور پیچیدہ ماڈل کے درمیان درستگی کا خلا چھوٹا ہو، قابلِ تشریح ہونے کا فائدہ عموماً شہری، اپیل افسر، اور آڈیٹر کے لیے ادارے کے لیے معمولی درستگی کی قدر سے کہیں زیادہ ہے۔
7. ہر نظام کا مقصد، تربیتی ڈیٹا، معلوم حدود، اور مقصود استعمال مستقل ریکارڈ میں دستاویز کریں، اور ان میں سے کچھ بدلے تو اسے تازہ کریں۔ ماڈل جو ایک مقصد کے لیے تعینات ہو اور خاموشی سے دوسرے کے لیے دوبارہ مقصود ہو — مثلاً دھوکہ دہی کی اسکریننگ عمومی اہلیت کی درجہ بندی تک بڑھائی جائے — عموماً اپنی اصل توثیق اور تعصب کی جانچ پیچھے چھوڑ آتا ہے۔
8. اعلیٰ داؤ والے ماڈل کے تربیتی اور عملیاتی ڈیٹا کو حکمرانی والی، مقصد تک محدود پائپ لائن کے اندر رکھیں۔ ایک انتظامی مقصد کے لیے جمع کیا گیا ڈیٹا سیٹ غیر متعلقہ مقصد کے لیے ماڈل کی تربیت میں دوبارہ استعمال کرنا اتنا ہی ڈیٹا کی حکمرانی کی ناکامی ہے جتنا ماڈلنگ کی (دیکھیں موضوع 5.4 — سرکاری شعبے کا ڈیٹا، باہمی ربط پذیری اور کھلا ڈیٹا)۔
9. الگورتھمی آڈٹ کو ایسے فعل کے تحت رکھیں جو نظام بنانے یا چلانے والی ٹیم کو رپورٹ نہیں کرتا۔ نظام کے اپنے ڈیولپرز کا کیا ہوا آڈٹ ایسے آزاد جائزہ لینے والے سے مختلف، اور کم، مسائل ڈھونڈتا ہے جس کے پاس منفی نتیجہ شائع کرنے کی حیثیت ہو (دیکھیں موضوع 3.4 — جوابدہی، شفافیت اور جواز)۔
10. نظام کو حقیقی فیصلوں کے لیے چالو کرنے سے پہلے سایہ مدت چلائیں۔ ماڈل کے عمل شروع کرنے سے پہلے متعینہ مدت کے لیے انہی معاملات پر اس کی سفارشات کا حقیقی انسانی فیصلوں سے موازنہ کریں، تاکہ کوئی منظم انحراف شہری کے متاثر ہونے سے پہلے سامنے آ جائے۔
11. بالکل بغیر انسانی جائزے کی مکمل خودکاری صرف سب سے کم نتیجہ خیز اور سب سے زیادہ قابلِ واپسی فیصلوں کے لیے مخصوص کریں۔ فیصلہ جتنا شدید اور کم قابلِ واپسی ہو — فائدے کی منسوخی، دھوکہ دہی کا حوالہ جو فوجداری تفتیش شروع کرے، داخلے سے انکار — انسان کو حقیقتاً حلقے میں رکھنے کا مقدمہ اتنا ہی مضبوط ہے، ماڈل کی ناپی ہوئی درستگی کچھ بھی ہو۔
12. مقررہ شیڈول پر دوبارہ تربیت، دوبارہ توثیق، اور تعصب کی دوبارہ جانچ کریں، صرف مسئلہ رپورٹ ہونے پر نہیں۔ ماڈل کی درستگی اور انصاف کی خصوصیات خاموشی سے بہہ سکتی ہیں جب آبادی اور دنیا جس پر وہ تربیت یافتہ تھا بدلے، اور عوامی ادارہ جو صرف شکایت کے بعد تحقیق کرتا ہے وہ بہاؤ اتنی دیر چلنے دے چکا ہوتا ہے جتنی شکایت کو سامنے آنے میں لگی۔

اپنی ٹیم کے ساتھ بحث کے لیے سوالات

ہمارے ادارے میں الگورتھم اس وقت کہاں ایسا فیصلہ کرتا یا بھاری طور پر باخبر کرتا ہے جو شخص کے حقوق، استحقاق، یا آزادی پر اثر ڈالتا ہو، اور کیا ہر متاثرہ شخص واقعی جان سکتا ہے کہ ایسا ہوا؟ بہت سے ادارے، جب اپنے نظاموں کی واقعی فہرست بناتے ہیں، دریافت کرتے ہیں کہ الگورتھمی اسکورنگ یا درجہ بندی کسی ایک ٹیم کے ادراک سے زیادہ فیصلہ سازی کے مقامات میں رینگ آئی ہے، اکثر اصل میں کم داؤ والے کارکردگی کے آلے کے طور پر متعارف ہوئی۔ اس سوال کو اس فہرست کو ایمانداری سے بنانے کے لیے استعمال کریں، ان نظاموں سمیت جو اندرونی طور پر بنائے جانے کے بجائے وینڈر سے خریدے گئے، کیونکہ خریداری چھپا سکتی ہے کہ خریدا گیا آلہ دراصل کتنا فیصلہ کر رہا ہے۔ بحث کریں کہ کیا آپ کے موجودہ نوٹس کی مشق متاثرہ شہری کو، ماہرانہ علم کے بغیر، دریافت کرنے دے گی کہ ان کے معاملے میں ماڈل شامل تھا۔

اگر شہری کل ہمارے خودکار فیصلوں میں سے ایک کو باضابطہ چیلنج کرے تو کیا ہم انہیں حقیقی، مخصوص وجہ دے سکتے ہیں، یا صرف عمل کی تفصیل؟ عمل کی تفصیل — «نظام نے آپ کی آمدنی، گھرانے کے سائز، اور ادائیگی کی تاریخ پر غور کیا» — اس کی وضاحت جیسی نہیں کہ ان ان پٹس نے اس خاص شخص کے لیے یہ خاص نتیجہ کیوں پیدا کیا۔ اس سوال کو ایک زندہ نظام چن کر بطور ٹیم وہ وضاحت لکھنے کی کوشش کے لیے استعمال کریں جو حقیقی شہری کو ملتی اگر وہ اپیل کرتا۔ اگر مشق مشکل ہو تو وہ مشکل خود نتیجہ ہے۔

کیا ہم جانتے ہیں کہ ہمارا تربیتی ڈیٹا تعصب کا تاریخی نمونہ دہراتا ہے، اور کیا ہم نے اسے اپنے ارادوں کے بجائے حقیقی نتائج کے مقابل جانچا ہے؟ ڈیٹا سیٹ سے محفوظ خصوصیت خارج کرنا اس کے اثر کو خارج کرنے جیسا نہیں، کیونکہ متعلقہ پراکسیاں وہی اشارہ مختلف نام سے اٹھا سکتی ہیں۔ اس سوال کو یہ شناخت کرنے کے لیے استعمال کریں کہ آپ کے کن نظاموں کو حقیقی تعیناتی کے بعد کے نتائج سے، متعلقہ خصوصیات کے لحاظ سے الگ کر کے، غیر متناسب اثر کے لیے جانچا گیا ہے، صرف ان پٹ ڈیٹا میں محفوظ متغیر کی موجودگی جانچنے کے بجائے۔ بحث کریں کہ اگر آپ کے سب سے اعلیٰ داؤ والے نظام پر یہ نتائج پر مبنی ٹیسٹ پہلے ہی نہیں ہوا تو اسے چلانے کے لیے کیا لگے گا۔

کیا ہمارا انسان-حلقے-کے-اندر جائزہ حقیقی جانچ ہے، یا مہر لگانے کی کارروائی جسے ہم نے نوٹس کرنے کے لیے کافی قریب سے نہیں ناپا؟ وقت کے دباؤ میں، مکمل سیاق کے بغیر، یا اتفاق سے زیادہ اختلاف پر رگڑ کا سامنا کرنے والا انسانی جائزہ لینے والا اس کے معیار سے قطع نظر الگورتھم کی سفارش منظور کرنے کی طرف مائل ہوگا۔ اس سوال کو کم از کم ایک نظام کی اپنی حقیقی اوور رائیڈ کی شرح معلوم کرنے کے لیے استعمال کریں، اور بحث کریں کہ وہ عدد آپ کو کیا بتاتا ہے کہ آیا جائزہ کنٹرول کے طور پر کام کر رہا ہے یا تعمیل کی رسمی کارروائی کے طور پر۔

جب کوئی ہمارے الگورتھم کے کیے یا بھاری طور پر باخبر فیصلے کی اپیل کرنا چاہے تو طریقہ کار کے لحاظ سے دراصل کیا ہوتا ہے — اور کیا اسے الٹنے کی حقیقی طاقت رکھنے والا انسان کبھی اپیل دیکھتا ہے؟ بہت سے اپیل کے عمل شہری کو ماڈل کی منطق کی تفصیل کے ذریعے واپس لے جاتے ہیں بغیر کبھی ایسے شخص تک پہنچے جو میرٹ پر نتیجہ الٹ سکے۔ اس سوال کو حقیقی یا حقیقت پسندانہ معاملے کی ایک اپیل کو شروع سے آخر تک کھوجنے اور وہ عین نقطہ شناخت کرنے کے لیے استعمال کریں، اگر کوئی ہو، جہاں جواب بدلنے کا حقیقی اختیار رکھنے والا انسان شامل ہوتا ہے۔

اگر ہمارا کوئی ماڈل تعیناتی کے بعد بگڑ جائے یا بہہ جائے تو خطرے کا مالک کون ہے، اور شہری یا صحافی کے بتانے سے پہلے ہمیں واقعی کیسے پتا چلے گا؟ ماڈل کے انصاف اور درستگی کی خصوصیات لانچ پر مقرر نہیں ہوتیں؛ جب آبادی، معیشت، یا ملحقہ پالیسی بدلے تو وہ بدل سکتی ہیں، اکثر نظام بنانے والی ٹیم کو غیر مرئی طور پر۔ اس سوال کو یہ شناخت کرنے کے لیے استعمال کریں کہ تعیناتی کے بعد کی نگرانی کا جوابدہ کون ہے، کس وقفے پر، اور دوبارہ تربیت یا وقفہ کو خاص طور پر کیا متحرک کرے گا۔ اگر ایماندارانہ جواب «کوئی خاص طور پر اسے نہیں دیکھ رہا» ہے تو اسے سب سے فوری نتیجہ سمجھیں جو یہ بحث پیدا کر سکتی ہے۔

عملی صورت: عوامی قدر کی ایک مثال

ایک فرضی قومی سماجی بیمہ ایجنسی نے خطرے کے اسکورنگ کا ماڈل بنایا تاکہ ترجیح دی جا سکے کہ بے روزگاری کے فوائد کے کن دعووں کا اس کی دھوکہ دہی کی تفتیشی ٹیم پہلے جائزہ لے، برسوں کے ایسے بیک لاگ کے بعد جس کا مطلب تھا کہ حقیقی دھوکہ دہی مہینوں غیر تفتیش شدہ پڑی رہی جبکہ ایماندار دعویدار غیر متعلقہ نمٹانے کی تاخیر پر انتظار کرتے رہے۔ ماڈل بند شدہ تفتیشی فائلوں کے پانچ سال پر تربیت یافتہ تھا، یہ سیکھتے ہوئے کہ دعوے کی کون سی خصوصیات تاریخی طور پر تصدیق شدہ دھوکہ دہی کی پہچان سے پہلے آئی تھیں، اور اس نے جانچ میں اچھی کارکردگی دکھائی: جن دعووں کو اس نے زیادہ خطرے کا اسکور دیا وہ بے ترتیب نمونے سے کہیں زیادہ شرح پر دھوکہ دہی کے تصدیق شدہ تھے، اور ایجنسی کی قیادت نے، برسوں میں پہلی بار اپنا بیک لاگ گرتے دیکھتے ہوئے، اجرا کو غیر مبہم کامیابی سمجھا۔

اٹھارہ ماہ بعد، اندرونی محتسب جیسے دفتر نے کچھ نوٹس کیا جو دھوکہ دہی کی ٹیم کے اپنے کارکردگی کے ڈیش بورڈ نے سامنے نہیں لایا تھا: چند ڈاک کے اضلاع میں رہنے والے دعویدار، غیر متناسب طور پر کم آمدنی والے اور غیر متناسب طور پر حال ہی میں ہجرت کرنے والے، دوسری جگہ کے بصورتِ دیگر مماثل دعویداروں سے تقریباً تین گنا شرح پر تفتیش کے لیے نشان زد ہو رہے تھے، اور ان کے نشان زد دعووں کا کہیں زیادہ حصہ بغیر کسی دھوکہ دہی کے پائے بند ہو رہا تھا۔ نمونہ تربیتی ڈیٹا تک جاتا تھا: تاریخی تفتیشی فائلیں ان برسوں کی عکاسی کرتی تھیں جب میدانی تفتیش کاروں نے، اپنے غیر رسمی اندازوں پر کام کرتے ہوئے، دستی جانچ پڑتال ٹھیک انہی اضلاع میں مرتکز کی تھی، لہٰذا ماڈل نے وہاں رہنے کو دھوکہ دہی کا پیش گو سمجھنا سیکھ لیا تھا، جبکہ یہ دراصل ماضی میں زیادہ بار جانچے جانے کا ہی پیش گو تھا۔ ڈاک کا ضلع کبھی ماڈل کا ان پٹ نہیں تھا؛ اسے ہونے کی ضرورت نہ تھی، کیونکہ گھرانے کی ترکیب، آجر کا شعبہ، اور ادائیگی کے طریقے کے خانے اس سے اتنے قریب سے منسلک تھے کہ پراکسی کے ذریعے وہی اشارہ لے جا سکیں۔

ایجنسی کی تفتیش نے تصدیق کی کہ نمونہ حقیقی تھا، اور دوسرے، خاموش مسئلے کی بھی تصدیق کی: انسانی جائزہ لینے والے، جن سے توقع تھی کہ کیس کو مکمل تفتیش کے لیے آگے بڑھنے سے پہلے منظور کریں، ماڈل کی سب سے اونچی اسکور والی سفارشات اکثریتی معاملات میں منظور کر رہے تھے، جائزے کے وقت کی اوسط فی معاملہ دو منٹ سے کم تھی — شماریاتی اسکور سے بامعنی طور پر اختلاف کرنے کے لیے بہت کم — جس کا مطلب تھا کہ انسان-حلقے-کے-اندر کنٹرول جسے قیادت نے حفاظتی تدبیر کے طور پر بتایا تھا اس تفاوت کو نہیں پکڑ رہا تھا جسے پکڑنے کے لیے وہ موجود تھا۔ ایجنسی کے ردعمل نے اس موضوع کے کئی بہترین طریقے ایک ساتھ ملائے: اس نے ماڈل کو تاریخی ضرورت سے زیادہ پولیسنگ کے نمونے کی درستگی کے ساتھ دوبارہ تربیت دی، جائزے کا وقت بڑھایا اور جائزہ لینے والوں کو اختیار دیا کہ جب ان کا اپنا فیصلہ اسکور سے اختلاف کرے تو نشان زد معاملہ بغیر ترقی کے بند کر دیں، اور ہر اس شخص کے لیے جس کا دعویٰ نشان زد ہو سادہ زبان کا نوٹس اور نام زد کیس افسر تک حقیقی اپیل کا راستہ بنایا۔ فی جائزہ لینے والے گھنٹے تفتیش کی پیداوار کچھ گری، مگر پہلے ضرورت سے زیادہ نشان زد اضلاع کے نشان زد دعووں میں تصدیق شدہ دھوکہ دہی کی شرح باقی کیس لوڈ کے برابر بڑھ گئی، جسے ایجنسی کے اپنے آڈٹ نے کامیابی کا حقیقی پیمانہ سمجھا — نشان زد دعووں کا حجم نہیں، بلکہ یہ کہ نشان زد کرنا حقیقی دھوکہ دہی کا پیچھا کرتا ہے نہ کہ ایسے تاریخی نمونے کا جسے ماڈل نے دہرانا سیکھ لیا تھا۔

چار شعبہ جاتی زاویے

مقامی حکومت

مقامی اتھارٹیاں رہائشیوں کے لیے سب سے فوری اور ذاتی داؤ والے فیصلوں کے لیے الگورتھمی آلات بڑھتی ہوئی تعداد میں تعینات کرتی ہیں — رہائش کی تخصیص کی ترجیح، بچوں کی بہبود کے خطرے کا اسکور، اور کونسل ٹیکس یا فائدے کی دھوکہ دہی کی درجہ بندی — اکثر ان نظاموں کو خود بنانے، توثیق کرنے، یا آڈٹ کرنے کی اندرونی ڈیٹا سائنس کی صلاحیت کے بغیر، بہتوں کو وینڈر کے فراہم کردہ ماڈلز پر انحصار کرنے پر چھوڑتے ہوئے جن کے تربیتی ڈیٹا اور توثیق کو اتھارٹی مکمل طور پر جانچ نہیں سکتی۔ یہ مخصوص خریداری کا نظم و ضبط پیدا کرتا ہے: الگورتھمی نظام کمیشن کرنے والی مقامی اتھارٹی کو، معاہدے کی شرط کے طور پر، وہی قابلِ وضاحت، تعصب کی جانچ، اور آڈٹ رسائی کا مطالبہ کرنا چاہیے جو وہ اندرونی تعمیر سے کرتی، کیونکہ رہائشی کے قانونی کارروائی کے حقوق اس لیے کم نہیں ہوتے کہ اتھارٹی نے نظام بنایا نہیں بلکہ خریدا۔ مقامی حکومت کی رہائشیوں سے قربت کا یہ بھی مطلب ہے کہ الگورتھمی غلطی کے رسمی شکایت بننے سے پہلے برادری میں ذاتی طور پر معلوم ہونے کا امکان زیادہ ہے، جو ہلکے، ابتدائی مقامی جائزے کی دلیل دیتا ہے۔

قومی حکومت

قومی ایجنسیاں اس موضوع کے دائرے میں سب سے بڑے پیمانے کے نظام چلاتی ہیں — ٹیکس کی دھوکہ دہی کی شناخت، امیگریشن کے خطرے کا جائزہ، قومی فائدے کی اہلیت — جہاں چھوٹی غلطی کی شرح بھی متاثرہ لوگوں کی بہت بڑی مطلق تعداد میں بدلتی ہے، اور جہاں ایجنسی عموماً حقیقی حفاظتی تدابیر بنانے کی سب سے گہری تکنیکی اور قانونی صلاحیت رکھتی ہے۔ قومی حکومتیں عموماً وہ سطح بھی ہیں جہاں خطرے پر مبنی AI ضابطہ کاری، جہاں موجود ہو، لکھی اور نافذ کی جاتی ہے، قومی ایجنسیوں کو سب سے واضح رسمی ذمہ داریاں اور سب سے زیادہ بے نقابی دیتی ہوئی جب آڈٹ یا عدالت پائے کہ خودکار نظام نے بڑے پیمانے پر امتیازی یا ناقابلِ جائزہ نتائج پیدا کیے۔ قانونی کارروائی کے داؤ یہاں ایک اور لحاظ سے بھی سب سے بلند ہیں: امیگریشن یا قانون نافذ کرنے کا خطرے کا اسکور استحقاق کے ساتھ آزادی پر بھی اثر ڈال سکتا ہے، جو سب سے محتاط خودکاری کا موقف تجویز کرتا ہے — سب سے کم مکمل خودکاری اور سب سے زیادہ حقیقی انسانی جائزہ — ٹھیک وہاں جہاں معاملات کے حجم کی وجہ سے خودکاری کا تکنیکی مقدمہ اکثر سب سے مضبوط ہوتا ہے۔

سماجی شعبہ اور غیر منافع بخش ادارے

غیر منافع بخش اور غیر سرکاری تنظیمیں (NGO) امداد کی تقسیم کی درجہ بندی، مستفیدین کی اہلیت کی اسکریننگ، یا کیس ورک کی ترجیح کے لیے بڑھتی تعداد میں الگورتھمی آلات استعمال کرتی ہیں ٹھیک انہی میدانوں میں جن کا یہ موضوع احاطہ کرتا ہے، اکثر حقیقی وسائل کی رکاوٹوں کے تحت جو خودکاری کا کارکردگی کا مقدمہ حقیقتاً مجبور کن بناتی ہیں۔ تاہم جوابدہی کا ڈھانچہ حکومت سے نمایاں طور پر مختلف ہے: غیر منافع بخش ادارے کے مستفیدین کے پاس شاذ و نادر وہ قانونی اپیل کے حقوق ہوتے ہیں جو شہری کو ریاستی ایجنسی کے خلاف حاصل ہیں، اور ادارے کا بنیادی جوابدہی کا رشتہ اکثر ان لوگوں کے بجائے جن کے بارے میں الگورتھم فیصلہ کرتا ہے مالی معاونین کی طرف جاتا ہے، جو ٹھیک وہی جوابدہی کا خلا ہے جسے موضوع 3.8 — سماجی شعبے اور غیر منافع بخش اداروں کا انتظام — مجموعی طور پر شعبے کے لیے بیان کرتا ہے۔ الگورتھمی درجہ بندی اپنانے والے غیر منافع بخش ادارے کو اس لیے وضاحت اور اپیل کے وہ حقوق جو یہ موضوع بیان کرتا ہے رضاکارانہ معیار کے طور پر بنانے چاہئیں، اس لیے نہیں کہ ضابطہ کار تقاضا کرتا ہے، بلکہ اس لیے کہ ادارہ جن لوگوں کی خدمت کرتا ہے ان کے پاس اس کے لیے کوئی اور راستہ نہیں۔

کثیر فریقی اور بین الاقوامی ادارے

کثیر فریقی ادارے اور بین الاقوامی انسانی ہمدردی کی ایجنسیاں سرحدوں اور قانونی نظاموں کے آر پار الگورتھمی ہدف بندی اور خطرے کے اسکورنگ کے آلات لاگو کرتی ہیں، اکثر بحرانی ماحول میں جہاں خودکاری کی رفتار کا فائدہ سب سے شدید اور دستیاب ڈیٹا سب سے کم قابلِ اعتماد ہے — نامکمل رجسٹریشن ڈیٹا، ایک بحران کے لیے جمع کیا گیا ڈیٹا جو دوسرے کے لیے دوبارہ استعمال ہو، اور ایسی آبادیاں جن کی اسکورنگ کے اس فیصلے کو چیلنج کرنے کی محدود صلاحیت ہے جو طے کرتا ہے کہ انہیں امداد ملے گی۔ کوئی واحد قومی قانونی کارروائی کا قانون یا وضاحت کے حق کا نظام کثیر فریقی ادارے کے آپریشنز میں یکساں طور پر لاگو نہیں ہوتا، لہٰذا اس موضوع کی بیان کردہ حفاظتی تدابیر کو نافذ العمل بیرونی قانونی فریم ورک سے وراثت میں لینے کے بجائے ادارے کے اپنے عملیاتی معیارات میں بنانا ہوگا، کثیر فریقی اداروں کے لیے عمومی طور پر موضوع 3.4 کی شناخت کردہ نمائندگی اور جوابدہی کے خلا کی بازگشت (دیکھیں موضوع 3.4 — جوابدہی، شفافیت اور جواز)۔ داؤ یہاں شدید بھی ہیں، کیونکہ الگورتھمی فیصلہ خوراک، پناہ، یا پناہ گزینی کی کارروائی تک رسائی طے کر سکتا ہے ان لوگوں کے لیے جن کے پاس غلط نتیجے کی اپیل کی اس موضوع کے کسی بھی گروہ سے کم عملی صلاحیت ہے۔

ناکامی کے عام طریقے

پراکسی امتیاز۔ ماڈل محفوظ خصوصیت کو براہِ راست خارج کرتا ہے مگر متعلقہ متغیر — پوسٹ کوڈ، خاندانی نام، ملازمت کا شعبہ، فائدے کی تاریخ — سے مساوی اشارہ سیکھ لیتا ہے، اسی امتیازی نمونے کو دہراتے ہوئے جسے اخراج روکنے کے لیے تھا۔ لاگت جھوٹا تحفظ کا احساس ہے: ادارہ سچائی سے کہہ سکتا ہے کہ محفوظ متغیر کبھی استعمال نہیں ہوا، جبکہ نتیجہ اتنا ہی غیر مساوی رہتا ہے جیسے وہ ہوتا۔

انسانی جائزے میں خودکاری کا تعصب۔ انسانی جائزہ لینے والا، جس سے رسمی طور پر الگورتھم کی سفارش جانچنے کا تقاضا ہے، اسے اکثریتی معاملات میں منظور کرتا ہے کیونکہ اختلاف کرنے میں زیادہ وقت، زیادہ جواز، یا اتفاق سے زیادہ ذاتی خطرہ لگتا ہے۔ لاگت یہ ہے کہ جس کنٹرول کے بارے میں ادارہ سمجھتا ہے کہ غلطیاں پکڑ رہا ہے وہ عملاً ان پر مہر لگا رہا ہے، اور یہ عموماً تبھی نظر آتا ہے جب کوئی اوور رائیڈ کی شرح براہِ راست ناپے بجائے اس پر بھروسا کرنے کے کہ عمل موجود ہے۔

وضاحت کا تھیٹر۔ ادارہ خودکار فیصلے کی وضاحت فراہم کرتا ہے جو مخصوص اور تسلی بخش لگتی ہے مگر ایسے طریقے سے بعد از واقعہ بنائی گئی ہے جو ماڈل کے حقیقی استدلال کو ظاہر کرنے کے بجائے اس کے قریب لاتی ہے۔ لاگت تب سامنے آتی ہے جب وضاحت کو حقیقی جانچ پڑتال کے تحت آزمایا جاتا ہے — اپیل، آڈٹ، قانونی چیلنج — اور معلوم ہوتا ہے کہ وہ اس سے مطابقت نہیں رکھتی کہ نظام نے وہ خاص نتیجہ دراصل کیوں پیدا کیا۔

فیڈبیک حلقوں کے ذریعے دہرایا گیا تاریخی تعصب۔ ماضی کے فیصلوں کے نتائج پر تربیت یافتہ ماڈل — کن محلوں کی تفتیش ہوئی، کن درخواستوں کی منظوری ہوئی — جو کچھ بھی ضرورت سے زیادہ جانچ یا کم خدمت کا نمونہ ان ماضی کے فیصلوں کی شکل تھا اسے سیکھتا اور پھر برقرار رکھتا ہے، اور اس کے پیدا کیے فیصلوں کا ہر نیا دور اگلے ورژن کا تربیتی ڈیٹا بنتا ہے، نمونے کو درست کرنے کے بجائے گہرا کرتا ہوا۔ یہ متعدد عوامی شعبے کے میدانوں میں بین الاقوامی طور پر دستاویز ہو چکا ہے، بشمول خطرے پر مبنی پولیسنگ اور فلاحی دھوکہ دہی کی اسکریننگ، اور بنیادی میکانزم ان دستاویز شدہ معاملات میں اتنا مستقل ہے کہ تاریخی نفاذ یا کیس ورک کے ڈیٹا پر تربیت یافتہ کسی بھی نظام میں، دائرۂ اختیار سے قطع نظر، عمومی خطرہ سمجھا جائے۔

جوابدہی کا خلا، یا «بہت سے ہاتھ» کا مسئلہ۔ جب فیصلہ وینڈر کے ماڈل، ایجنسی کے ڈیٹا، پالیسی ٹیم کی حد بندی، اور کیس ورکر کے برائے نام دستخط سے گزرتا ہے تو غلط نتیجے کی ذمہ داری خود ادارے کو بھی حقیقتاً غیر واضح ہو سکتی ہے، ہر فریق غلطی کے ماخذ کے طور پر دوسرے کی طرف اشارہ کرنے کے قابل۔ لاگت صرف یہ نہیں کہ متاثرہ شہری واضح جواب نہیں پا سکتا، بلکہ یہ کہ ادارہ معتبر طور پر اصل سبب ٹھیک نہیں کر سکتا، کیونکہ مجموعی فیصلے کا کوئی واحد جوابدہ مالک موجود نہیں (دیکھیں موضوع 3.4 — جوابدہی، شفافیت اور جواز)۔

پختگی کا نمونہ

فہرستِ جانچ

• ہر اس نظام کی مکمل فہرست بنائیں جو شخص کے حقوق یا استحقاق پر اثر ڈالنے والا فیصلہ کرتا یا مادی طور پر باخبر کرتا ہے، بشمول وینڈر کے فراہم کردہ آلات۔
• اس فہرست کے ہر نظام کو اس فیصلے کے داؤ کے لحاظ سے متعینہ خطرے کے درجے سے درجہ بند کریں جسے وہ باخبر کرتا ہے۔
• تصدیق کریں کہ ہر متاثرہ شخص کو سادہ زبان کا نوٹس ملتا ہے کہ ان کے معاملے میں الگورتھم شامل تھا۔
• وہ مخصوص، معاملے کی سطح کی وضاحت مسودہ کریں جو حقیقی شہری کو اپیل پر ملتی، اور جانچیں کہ کیا وہ واقعی انہیں مطمئن کرے گی۔
• ہر اعلیٰ داؤ والے نظام کو حقیقی تعیناتی کے بعد کے نتائج، متعلقہ خصوصیات کے لحاظ سے الگ کر کے، غیر متناسب اثر کے لیے جانچیں، صرف خارج شدہ ان پٹ متغیرات جانچنے سے نہیں۔
• ہر انسان-حلقے-کے-اندر کنٹرول کے لیے اوور رائیڈ کی شرح اور اوسط جائزے کا وقت ناپیں، اور صفر کے قریب اوور رائیڈ کی شرح کو نتیجہ سمجھیں۔
• تصدیق کریں کہ فیصلہ الٹنے کا حقیقی اختیار رکھنے والا نام زد انسان ہر اپیل کا جائزہ لیتا ہے۔
• الگورتھمی آڈٹ کو نظام بنانے یا چلانے والی ٹیم سے آزاد فعل کے تحت رکھیں۔
• تصدیق کریں کہ ہر نظام کا تربیتی اور عملیاتی ڈیٹا حکمرانی والی، مقصد تک محدود پائپ لائن کے اندر رہتا ہے۔
• ہر تعینات شدہ ماڈل کے لیے مقررہ دوبارہ تربیت اور دوبارہ توثیق کا شیڈول طے کریں، جائزے کو متحرک کرنے کے لیے شکایت کا انتظار کرنے کے بجائے۔
• شناخت کریں کہ آپ کے کن نظاموں کے پاس سب سے شدید اور کم قابلِ واپسی فیصلوں کے لیے مکمل خودکاری کی حفاظتی تدبیر نہیں، اور پہلے اسے درست کریں۔
• اوپر کے چھ بحثی سوالات اپنی ٹیم کے ساتھ چلائیں اور ریکارڈ کریں کہ ایماندارانہ جواب سرکاری جواب سے کہاں مختلف ہے۔

بنیادی ماخذ

• OECD AI Principles (2019، 2024 میں تازہ) — قابلِ اعتماد AI کا پہلا بین الحکومتی معیار، جو جامع ترقی، انسانی حقوق، شفافیت، مضبوطی، اور جوابدہی کا احاطہ کرتا ہے۔
• یورپی یونین کا مصنوعی ذہانت کا ایکٹ (Regulation (EU) 2024/1689) — AI کا پہلا جامع خطرے کے درجوں پر مبنی قانونی فریم ورک، جو صراحتاً عوامی شعبے کی اہلیت، قانون نافذ کرنے، اور ہجرت کے استعمال کو مخاطب کرتا ہے۔
• امریکی گورنمنٹ اکاؤنٹیبلٹی آفس، Artificial Intelligence: An Accountability Framework for Federal Agencies and Other Entities (GAO-21-519SP، 2021) — عوامی شعبے میں AI کی جوابدہی کے لیے حکمرانی، ڈیٹا، کارکردگی، اور نگرانی کا فریم ورک۔
• ڈینیئل کیٹس سٹرون کی «تکنیکی قانونی کارروائی» پر علمی تحقیق، جو دلیل دیتی ہے کہ خودکار نظاموں کو انسانی کے بجائے الگورتھمی فیصلہ سازی کے لیے خصوصی طور پر بنائے گئے طریقہ کار کے تحفظات درکار ہیں۔
• کیتھی او نیل، ورجینیا یوبینکس، اور فرینک پاسکوالے کی الگورتھمی تعصب، خودکار فلاحی انتظامیہ، اور مبہم اسکورنگ نظاموں پر عوامی رخ کی علمی تحقیق، جس کا اس موضوع کی تربیتی ڈیٹا کے تعصب اور بلیک باکس کے مسئلے کی بحث میں حوالہ دیا گیا ہے۔

حوالہ جات

1. Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
2. Explainable artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Explainable_artificial_intelligence
3. Automated decision-making — Wikipedia — https://en.wikipedia.org/wiki/Automated_decision-making
4. Right to explanation — Wikipedia — https://en.wikipedia.org/wiki/Right_to_explanation
5. Due process — Wikipedia — https://en.wikipedia.org/wiki/Due_process
6. Fairness (machine learning) — Wikipedia — https://en.wikipedia.org/wiki/Fairness_(machine_learning)
7. Human-in-the-loop — Wikipedia — https://en.wikipedia.org/wiki/Human-in-the-loop
8. Black box — Wikipedia — https://en.wikipedia.org/wiki/Black_box
9. General Data Protection Regulation — Wikipedia — https://en.wikipedia.org/wiki/General_Data_Protection_Regulation
10. Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
11. Predictive policing — Wikipedia — https://en.wikipedia.org/wiki/Predictive_policing
12. Natural justice — Wikipedia — https://en.wikipedia.org/wiki/Natural_justice
13. OECD AI Principles overview — OECD.AI — https://oecd.ai/en/ai-principles
14. AI Act | Shaping Europe's digital future — European Commission — https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
15. EU AI Act: high-level summary — Future of Life Institute (artificialintelligenceact.eu) — https://artificialintelligenceact.eu/high-level-summary/
16. Artificial Intelligence: An Accountability Framework for Federal Agencies and Other Entities (GAO-21-519SP) — US Government Accountability Office — https://www.gao.gov/products/gao-21-519sp