مصنوعي ذهانت ۽ فوجداري قانون: ڇا هڪ الگورتھم جزوي طور تي ذميوار ٿي سگهي ٿو؟

اچو ته شروعات کان ئي واضح رهون: موجوده ڊچ ۽ يورپي يونين جي قانون تحت، هڪ الگورتھم کي ڪنهن جرم لاءِ مجرمانه طور تي ذميوار نه ٿو ڳولي سگهجي. اهو هڪ غير شروعاتي آهي. بنيادي قانوني تصور جهڙوڪ مجرمانه ارادو (مردن جو علائقو) ۽ قانوني شخصيت انسانن ۽ ڪجهه حالتن ۾، ڪارپوريشنن لاءِ محفوظ آهن.

جڏهن ته، اهو سادو جواب صرف هڪ تمام گهڻي پيچيده گفتگو جي شروعات آهي. هڪ الگورتھم جا عمل انهن ماڻهن جي ڏوهه - يا معصوميت - کي ثابت ڪرڻ لاءِ بلڪل مرڪزي بڻجي رهيا آهن جيڪي انهن کي ٺاهيندا آهن، مقرر ڪندا آهن ۽ نگراني ڪندا آهن.

ڇا هڪ الگورتھم ڪنهن ڏوهه جو مجرم ٿي سگهي ٿو؟

جڏهن اسان هڪ مجرمانه مضمون ۾ AI بابت ڳالهايون ٿا قانون تناظر ۾، اصل سوال اهو آهي ته ڇا هڪ الگورتھم مدعا عليه جي ڪرسي تي ختم ٿي سگهي ٿو. قانوني طور تي، اڄ جواب هڪ مضبوط نه آهي. اهو ڪيترو به پيچيده هجي، هڪ الگورتھم ۾ صرف بنيادي خاصيتن جي کوٽ آهي جيڪي مقدمي کي بيهڻ لاءِ گهربل آهن. ان ۾ ڪا به شعور ناهي، ضبط ڪرڻ لاءِ ڪا به ذاتي اثاثو ناهي، ۽ نه ئي ڪا آزادي آهي ته ان کي کسي سگهجي.

هي قانوني حقيقت اسپاٽ لائٽ کي اوزار کان استعمال ڪندڙ ڏانهن منتقل ڪرڻ تي مجبور ڪري ٿي. هڪ ترقي يافته AI سسٽم کي هڪ انتهائي پيچيده پر آخرڪار بي جان اوزار جي طور تي سوچڻ مددگار آهي - هڪ خود ڊرائيونگ ڪار يا هڪ خودڪار ڪارخاني جي مشين جي برعڪس نه. جيڪڏهن مشين نقصان پهچائي ٿي، ته قانون مشين تي ڪيس نه ٿو هلائي؛ اهو ان جي پويان انسانن جي جاچ ڪري ٿو.

قانوني شخصيت ۽ ارادي جون رڪاوٽون

فوجداري قانون ٻن ٿنڀن تي ٺهيل آهي جن کي AI صرف پورو نٿو ڪري سگهي: قانوني شخصيت ۽ مجرمانه ارادو. ڪنهن به اداري کي مقدمي کي منهن ڏيڻ لاءِ، قانون کي ان کي "شخص" طور تسليم ڪرڻ گهرجي، جنهن جو مطلب آهي يا ته هڪ قدرتي شخص (هڪ انسان) يا هڪ قانوني شخص (جهڙوڪ هڪ ڪمپني). AI سسٽم ڪنهن به درجي ۾ نه ٿا اچن.

اڃا به وڌيڪ نازڪ، اڪثر سنگين ڏوهن لاءِ ثبوت جي ضرورت هوندي آهي مردن جو علائقو- هڪ "ڏوهي ذهن." هي ثابت ڪرڻ بابت آهي ته مدعا عليه هڪ مخصوص ذهني حالت سان ڪم ڪيو، ڇا اهو ارادو هو، علم هو، يا لاپرواهي هئي. هڪ الگورتھم ڪوڊ ۽ ڊيٽا تي هلندو آهي؛ اهو ارادا نه ٿو ٺاهي يا ان جي عملن جي اخلاقي غلطي کي نه ٿو سمجهي.

مرڪزي ڏکيائي هڪ نظام جي صلاحيت مان پيدا ٿئي ٿي ته هو آزاديءَ سان چونڊ ڪري ۽ عمل ڪري، ان ڪري انساني ارادي ۽ نتيجي ۾ ٿيندڙ نقصان جي وچ ۾ هڪ غير انساني ايجنٽ داخل ڪري ٿو. هي فوجداري قانون ۾ ذميواري منسوب ڪرڻ جي روايتي ماڊل کي خراب ڪري ٿو.

سڌي ڳالهه تي پهچڻ لاءِ، قانون کي صديون پراڻين قانوني اصولن کي خودمختيار ٽيڪنالاجي تي لاڳو ڪرڻ ۾ ڪجهه اهم رڪاوٽن کي منهن ڏيڻو پوي ٿو. هيٺ ڏنل جدول بنيادي مسئلي جو خلاصو پيش ڪري ٿو.

الگورتھمڪ ڪرمنل لائيبلٽي جي موجوده حيثيت

قانوني تصور	انسانن لاءِ درخواست	اي آءِ سسٽمز لاءِ درخواست
قانوني شخصيت	انسان "قدرتي ماڻهو" آهن جن جا قانون جي تحت حق ۽ فرض آهن. ڪارپوريشنون "قانوني ماڻهو" ٿي سگهن ٿيون.	هڪ AI سسٽم کي ملڪيت يا اوزار سمجهيو ويندو آهي. ان جي ڪا به آزاد قانوني حيثيت ناهي.
ڏوهاري ارادو (مينز ري)	پراسيڪيوٽرن کي "ڏوهي ذهن" ثابت ڪرڻ گهرجي، جهڙوڪ ارادو، لاپرواهي، يا غلط ڪم جو علم.	هڪ الگورٿم پنهنجي پروگرامنگ ۽ ڊيٽا ان پٽ جي بنياد تي ڪم ڪندو آهي. ان ۾ شعور، عقيدا، يا خواهشون نه هونديون آهن.
جسماني عمل (ايڪٽس ريئس)	هڪ شخص ضرور ڪو رضاڪارانه جسماني عمل (يا ڪو مجرمانه ڪم) ڪيو هوندو.	هڪ AI جا "ڪارروائي" ڪوڊ جا نتيجا آهن. اهي انساني معنيٰ ۾ رضاڪارانه عمل نه آهن.
سزا	پابندين ۾ قيد، جرمانو، يا برادري جي خدمت شامل آهي، جنهن جو مقصد بدلو وٺڻ ۽ روڪڻ آهي.	هڪ AI کي قيد يا جرمانو نٿو ڪري سگهجي. ڪوڊ کي "سزا" ڏيڻ (مثال طور، ان کي حذف ڪرڻ) قانوني فريم ورڪ ۾ نه ٿو اچي.

جيئن توهان ڏسي سگهو ٿا، هڪ بنيادي بي ترتيبي آهي. فوجداري قانون جو پورو ڍانچو انساني ايجنسي جي چوڌاري ٺهيل آهي، جنهن ۾ AI جي کوٽ آهي.

قانوني ڍانچي جي طور تي منسوب ذميواري

تنهن ڪري، ڇاڪاڻ ته هڪ الگورتھم کي مجرم نه ٿو قرار ڏئي سگهجي، ڊچ قانون جي تصور تي واپس اچي ٿو منسوب ذميواري. ان جو مطلب اهو آهي ته AI جي عملن جي ذميواري هڪ انسان يا ڪارپوريٽ اداڪار کي سونپي وئي آهي - يا منسوب ڪئي وئي آهي. هن منظرنامي ۾، AI جو آئوٽ پُٽ ثبوت جو هڪ نازڪ ٽڪرو بڻجي ٿو جيڪو ان جي انساني ڪنٽرولرز جي عملن يا غفلت ڏانهن اشارو ڪري ٿو.

هي طريقو انقلابي ناهي. اهو سڌو سنئون ظاهر ڪري ٿو ته قانون ٻين پيچيده اوزارن جي استعمال سان ڪيل ڏوهن کي ڪيئن سنڀاليندو آهي. مثال طور، جيڪڏهن ڪا ڪمپني ڄاڻي واڻي هڪ خطرناڪ طور تي خراب پراڊڪٽ وڪرو ڪري ٿي جيڪا زخم جو سبب بڻجي ٿي، ته ڪمپني ۽ ان جي عملدارن کي ذميوار قرار ڏنو ويندو، نه ته پراڊڪٽ پاڻ.

هن جي رهنمائي ڪندڙ اصول قائم ٿيل قانوني عقيدن سان مطابقت رکن ٿا. قانوني ماهرن لاءِ جيڪي هن جڳهه تي نيويگيٽ ڪري رهيا آهن، موجوده فريم ورڪ جي مضبوط گرفت ضروري شروعاتي نقطو آهي. اسان جي تفصيلي گائيڊ تي هالينڊ ۾ ڏوهاري طريقيڪار هي هڪ بهترين پرائمر پيش ڪري ٿو ته اهي ڪيس جاچ کان فيصلي تائين ڪيئن منتقل ٿين ٿا. هاڻي چئلينج شروع کان نوان قانون ايجاد ڪرڻ جو ناهي، پر انهن ثابت ٿيل اصولن کي خودمختيار نظامن جي منفرد پيچيدگين سان مطابقت پيدا ڪرڻ جو آهي.

ڊچ قانون ڪيئن AI جي سهولت سان ڪيل ڏوهن جو الزام لڳائي ٿو

جيئن ته هڪ الگورتھم پاڻ کي آزمائش ۾ نه ٿو رکي سگهجي، ڊچ قانوني نظام موجوده، انساني-مرڪوز عقيدن ڏانهن رخ ڪري ٿو جتي ذميواري تفويض ڪئي وڃي. هن ڪم لاءِ مکيه قانوني اوزار جو نظريو آهي فنڪشنل ڪارڪردگي (فنڪشنل ڊيڊرشاپ).

هي طاقتور اصول عدالت کي اجازت ڏئي ٿو ته ڪنهن شخص يا ڪمپني کي ڪنهن اهڙي عمل لاءِ مجرمانه طور تي ذميوار قرار ڏئي جيڪو انهن جسماني طور تي نه ڪيو هجي، جيستائين اهي صورتحال تي اثرائتي ڪنٽرول ۾ هجن.

ان کي هن طرح سوچيو: هڪ تعميراتي فرم جو ڊائريڪٽر ذاتي طور تي سائيٽ تي هر ڪرين کي هلائي نه ٿو. پر جيڪڏهن اهي ڄاڻي واڻي ڪنهن آپريٽر کي ناقص ڪرين استعمال ڪرڻ جو حڪم ڏين ٿا ۽ ڪو حادثو ٿئي ٿو، ته ڊائريڪٽر کي ئي سزا ڏني ويندي آهي. ساڳيو منطق لاڳو ٿئي ٿو جڏهن "ڪرين" هڪ جديد AI سسٽم آهي. ڌيان الگورتھم جي ڪيل ڪم کان انساني فيصلن ڏانهن منتقل ٿئي ٿو جيڪي ان کي ٿيڻ جي اجازت ڏين ٿا.

هي AI سان ڪم ڪندڙ ڪنهن به شخص لاءِ هڪ نازڪ تصور آهي، ڇاڪاڻ ته اهو پراسيڪيوٽرن کي هڪ سڌو رستو ڏئي ٿو ته هو هڪ AI جي نقصانڪار پيداوار کي ڪنهن شخص يا ڪارپوريشن سان ڳنڍين. اهو هڪ الگورتھم جي "ارادي" کي ثابت ڪرڻ جي ناممڪن ڪم کي صاف طور تي نظرانداز ڪري ٿو ۽ ان جي بدران ان جي انساني مالڪن جي ارادي ۽ غفلت تي صفر ڪري ٿو.

فنڪشنل ڪارڪردگي جا ٻه ٽيسٽ

هڪ پراسيڪيوٽر لاءِ عدالت ۾ فنڪشنل جرم جي ڪاميابي سان دليل ڏيڻ لاءِ، انهن کي ٻه اهم ٽيسٽ پورا ڪرڻا پوندا آهن. اهي معيار اهي ستون آهن جيڪي اهو طئي ڪن ٿا ته ڇا هڪ شخص يا ڪمپني کي AI ذريعي ڪيل جرم جي "فنڪشنل" ليکڪ طور ڏسي سگهجي ٿو.

1. ڪنٽرول جي طاقت (بيشڪنگسماچٽ): ڇا فرد يا ڪمپني وٽ اصل اختيار هو ته اهو طئي ڪري سگهي ته ڇا AI جو مجرمانه رويو ٿيندو؟ اهو سڀ اختيار ۽ نگراني بابت آهي - شيون جهڙوڪ AI جا آپريٽنگ قاعدا مقرر ڪرڻ، ان کي بند ڪرڻ جي صلاحيت رکڻ، يا انهن پيرا ميٽرز کي بيان ڪرڻ جيڪي ان جي فيصلن جي رهنمائي ڪن ٿا.

2. قبوليت (قبوليت): ڇا فرد يا ڪمپني اهو خطرو قبول ڪيو ته ڪو مجرمانه عمل ٿي سگهي ٿو؟ اهم طور تي، ان لاءِ سڌي ارادي جي ضرورت ناهي. اهو ثابت ٿي سگهي ٿو جيڪڏهن انهن کي خبر هجي ته نقصانڪار نتيجي جو امڪان آهي پر شعوري طور تي ڪافي حفاظتي اپاءَ نه وٺڻ جو انتخاب ڪيو.

اهي ٻہ ستون - ڪنٽرول ۽ قبوليت - ڊچ قانون جي سوال جو جواب ڏيڻ جو بنياد ٺاهين ٿا، "ڇا هڪ الگورتھم جزوي طور تي ذميوار ٿي سگهي ٿو؟". جواب هڪ واضح نه آهي، پر ان جي انساني ڪنٽرولر کي رکي سگهجي ٿو. بلڪل ذميوار.

هڪ عملي منظرنامو: خودمختيار ڊرون زخم

اچو ته هن کي حقيقي دنيا جي منظرنامي تي لاڳو ڪريون. تصور ڪريو ته هڪ لاجسٽڪ ڪمپني خودمختيار ڊليوري ڊرونز جو هڪ ٻيڙو مقرر ڪري ٿي. هڪ ڊرون، هڪ AI نيويگيشن سسٽم جي رهنمائي سان، هڪ ڀريل عوامي چوڪ تي خراب ٿي ويندو آهي ۽ هڪ سنگين زخمي جو سبب بڻجندو آهي.

ڪمپني خلاف ڪيس ٺاهيندڙ پراسيڪيوٽر فعلي ڏوهن جي فريم ورڪ تي تمام گهڻو ڀاڙيندو:

• ڪنٽرول ثابت ڪرڻ: اهي اهو ظاهر ڪندا ته ڪمپني کي ڊرون جهازن تي مڪمل ڪنٽرول حاصل آهي. ڪمپني ترسيل جا رستا مقرر ڪيا، سافٽ ويئر اپڊيٽس کي منظم ڪيو، ۽ ڪنهن به وقت ڊرون کي گرائونڊ ڪرڻ لاءِ "ڪِل سوئچ" کي هٿ ۾ رکيو.

• قبوليت ثابت ڪرڻ: ثبوت سامهون اچي سگهن ٿا ته ڪمپني کي خبر هئي ته ان جي AI وٽ هڪ هئي 5% گهاٽي شهري علائقن ۾ غلطي جي شرح پر خرچ گهٽائڻ لاءِ ان کي ڪنهن به طرح استعمال ڪرڻ جو فيصلو ڪيو. هن ڄاتل سڃاتل خطري جي باوجود سسٽم کي هلائڻ سان، ڪمپني مؤثر طريقي سان نقصانڪار نتيجي جي امڪان کي قبول ڪيو.

هن نظريي جي تحت، ڪمپني ڏوهه جي مرتڪب بڻجي ٿي (مثال طور، غفلت جي ڪري سخت جسماني نقصان). AI صرف اوزار آهي؛ ڪمپني جي ان کي مقرر ڪرڻ ۽ مناسب طور تي نگراني نه ڪرڻ جا فيصلا مجرمانه عمل آهن.

ڪارپوريٽ ذميواري ۽ مجموعي غفلت

فنڪشنل ڏوهن جو هي تصور سڌو سنئون ڪارپوريٽ مجرمانه ذميواري تائين پکڙيل آهي. هڪ تنظيم کي ذميوار قرار ڏئي سگهجي ٿو جيڪڏهن مجرمانه رويي کي معقول طور تي ان سان منسوب ڪري سگهجي ٿو. اهو اڪثر ڪري مجموعي غفلت جي ڪيسن ۾ عمل ۾ اچي ٿو، جتي ڪمپني جي پاليسين - يا ان جي کوٽ - هڪ اهڙو ماحول پيدا ڪيو جتي هڪ AI-هلائيندڙ جرم صرف ممڪن نه هو، پر اڳڪٿي لائق هو.

جڏهن ته قانوني اصول چڱي طرح قائم آهن، انهن جو AI تي اطلاق اڃا تائين شڪل وٺي رهيو آهي. هالينڊ ۾، 2025 تائين، ڪو به شايع ٿيل عدالتي فيصلو نه آهي خاص طور تي نقصانن جي لاءِ مجرمانه ذميواري تي. اڪيلو هڪ AI سسٽم جي خودمختيار فيصلي سان. اهو ظاهر ڪري ٿو ته قانوني ميدان اڃا تائين ٽيڪنالاجي سان ڪيچ اپ کيڏي رهيو آهي.

هاڻي لاءِ، پراسيڪيوٽر انهن عام اصولن کي اپنائين ٿا، فردن کي ذميوار قرار ڏين ٿا جيڪڏهن اهي AI کي ڪنٽرول ڪن ۽ غلط ڪمن لاءِ ان جي صلاحيت کي قبول ڪن، جهڙوڪ لاپرواهي AI آپريشن جي نتيجي ۾ لاپرواهي قتل جي ڪيسن ۾. توهان موجوده حالت بابت وڌيڪ پڙهي سگهو ٿا ڊچ قانون ۾ AI ۽ ان جا اثر.

قانوني صلاحڪار لاءِ، هي حقيقت هڪ شيءِ تي ڌيان ڏئي ٿي: ذميوار انساني نگراني ۽ خطري جي انتظام لاءِ هڪ فعال طريقي جو مظاهرو ڪرڻ. ڪنٽرول جي کوٽ کي ثابت ڪرڻ يا اهو دليل ڏيڻ ته هڪ نقصانڪار نتيجو واقعي غير متوقع هو، اهڙن الزامن جي خلاف دفاع لاءِ مرڪزي هوندو.

EU AI ايڪٽ جو مجرمانه ذميواري تي اثر

جڏهن ته ڊچ گهريلو قانون وانگر فنڪشنل ڊيڊرشاپ الزام لڳائڻ لاءِ هڪ فريم ورڪ فراهم ڪري ٿو، منظرنامي کي هڪ تمام وسيع شروعات ذريعي ڊرامائي طور تي نئين شڪل ڏني پئي وڃي: يورپي يونين جو مصنوعي ذهانت ايڪٽ. هي صرف ضابطن جو هڪ ٻيو ٽڪرو ناهي؛ اهو هڪ جامع خطري تي ٻڌل فريم ورڪ آهي جيڪو AI سسٽم کي سنگل مارڪيٽ ۾ ڪيئن ترقي ۽ استعمال ڪيو وڃي ٿو ان کي منظم ڪرڻ لاءِ ٺاهيو ويو آهي.

قانوني ماهرن ۽ ڪاروبار لاءِ، AI ايڪٽ سان گرفت حاصل ڪرڻ انتهائي اهم آهي ڇاڪاڻ ته اهو نوان تعميل فرض پيدا ڪري ٿو جن جو سڌو سنئون مجرمانه ذميواري تي اثر پوي ٿو. ان جي سخت گهرجن تي عمل ڪرڻ ۾ ناڪامي کي پراسيڪيوٽر غفلت يا لاپرواهي جي طاقتور ثبوت طور استعمال ڪري سگهن ٿا، جڏهن ڪو AI سسٽم نقصان پهچائيندو آهي ته مجرمانه الزامن جو بنياد بڻجي ٿو. هي قانون گفتگو کي صرف نقصان تي رد عمل ڏيڻ کان ان کي فعال طور تي روڪڻ ڏانهن منتقل ڪري ٿو.

AI ايڪٽ هڪ واضح درجي بندي قائم ڪري ٿو، AI سسٽم کي انهن جي حفاظت يا بنيادي حقن کي نقصان پهچائڻ جي صلاحيت جي بنياد تي درجه بندي ڪري ٿو. هي ڍانچو فوجداري قانون سان ان جي تعلق کي سمجهڻ جي ڪنجي آهي.

خطري جي زمرے کي سمجهڻ

هن ايڪٽ جو سڀ کان اهم اثر ان جي ٽائرڊ طريقي مان اچي ٿو. اهو سڀني AI سان هڪجهڙو سلوڪ نٿو ڪري. ان جي بدران، اهو سسٽم کي درجابندي ۾ ورهائي ٿو، هر هڪ سان مختلف قانوني ذميداريون آهن.

• ناقابل قبول خطرو: اهي نظام بنيادي حقن لاءِ ايترا خطرناڪ سمجهيا وڃن ٿا جو انهن تي مڪمل طور تي پابندي لڳائي وئي آهي. سوچيو ته حڪومت پاران هلندڙ سماجي اسڪورنگ سسٽم يا قانون لاڳو ڪندڙ ادارن پاران عوامي جڳهن ۾ حقيقي وقت جي بايوميٽرڪ سڃاڻپ (مختصر استثنا سان).

• وڏو خطرو: هي فوجداري قانون لاءِ سڀ کان اهم ڪيٽيگري آهي. اهو نازڪ انفراسٽرڪچر، طبي ڊوائيسز، ۽، اهم طور تي، قانون لاڳو ڪندڙ ادارن ۽ انصاف جي انتظاميه جهڙن حساس علائقن ۾ استعمال ٿيندڙ AI کي ڍڪيندو آهي. اڳڪٿي ڪندڙ پوليسنگ اوزار ۽ AI تي هلندڙ سزا ڏيڻ وارو سافٽ ويئر هن گروپ ۾ سڌو سنئون اچي ٿو.

• محدود خطرو: اهي نظام، جهڙوڪ چيٽ بوٽس، هلڪي شفافيت جي ذميوارين کي منهن ڏين ٿا. استعمال ڪندڙن کي صرف اهو سمجهڻ گهرجي ته اهي هڪ AI سان لهه وچڙ ڪري رهيا آهن.

• گھٽ ۾ گھٽ خطرو: هن درجي ۾ گهڻيون AI ايپليڪيشنون شامل آهن، جهڙوڪ اسپام فلٽر يا وڊيو گيمز ۾ AI، جيڪي وڏي حد تائين غير منظم آهن.

"ناقابل قبول خطري" جي درجي ۾ هڪ نظام کي ترتيب ڏيڻ هڪ سڌي خلاف ورزي آهي جيڪا آساني سان مجرمانه غفلت جي ڪيس جي حمايت ڪري سگهي ٿي جيڪڏهن اهو نقصان جو سبب بڻجي ٿو. بهرحال، بنيادي قانوني جنگ جو ميدان اعليٰ خطري واري نظام جي چوڌاري هوندو.

هاءِ رسڪ سسٽم ۽ مجرمانه غفلت

اعليٰ خطري واري AI لاءِ، ايڪٽ سخت گهرجون لاڳو ڪري ٿو جيڪي سنڀال جي قانوني معيار طور ڪم ڪن ٿيون. اهي ذميواريون تجويزون نه آهن؛ اهي ڊولپرز ۽ ڊيپلائيرز لاءِ لازمي فرض آهن.

اعليٰ خطري واري نظام لاءِ اهم گهرجن ۾ تعصب کي روڪڻ لاءِ مضبوط ڊيٽا گورننس، مڪمل ٽيڪنيڪل دستاويز، استعمال ڪندڙن لاءِ مڪمل شفافيت، هر وقت انساني نگراني ممڪن هجڻ کي يقيني بڻائڻ، ۽ اعليٰ سطح جي درستگي ۽ سائبر سيڪيورٽي کي برقرار رکڻ شامل آهن.

تصور ڪريو ته ڪا ڪمپني نسلي تعصب لاءِ تربيتي ڊيٽا جي صحيح جانچ ڪرڻ کان سواءِ هڪ اڳڪٿي ڪندڙ پوليسنگ الگورتھم کي استعمال ڪري ٿي - ايڪٽ جي ڊيٽا گورننس قاعدن جي واضح خلاف ورزي. جيڪڏهن هي جانبدار نظام غلط گرفتاري جو سبب بڻجي ٿو جيڪو نقصان جو سبب بڻجي ٿو، ته هڪ پراسيڪيوٽر وٽ هڪ تيار دليل آهي. اهي ڪمپني جي مناسب خيال رکڻ ۾ ناڪامي جي سڌي ثبوت جي طور تي AI ايڪٽ جي غير تعميل ڏانهن اشارو ڪري سگهن ٿا، ڪارپوريٽ لاپرواهي جو الزام ثابت ڪرڻ تمام آسان بڻائي ٿو.

يورپي يونين جي وسيع مصنوعي ذهانت ايڪٽ، جيڪو فيبروري 2025 ۾ هالينڊ ۾ لاڳو ٿيو، بنيادي طور تي هن قانوني منظرنامي کي شڪل ڏئي ٿو. عدم تعميل جي نتيجي ۾ وڏا انتظامي جرمانا ٿي سگهن ٿا €35 ملين يا ڪل سالياني ٽرن اوور جو 7٪. ڊچ حڪومت تنظيمن کي حڪم ڏنو آهي ته اهي ڪنهن به پابندي مڙهيل نظام جي سڃاڻپ ڪن ۽ ان کي ختم ڪن، جيڪو چهري جي سڃاڻپ جي غلطين مان غلط گرفتارين ۾ نظر ايندڙ ناقص AI تي سنجيده خدشن کي ظاهر ڪري ٿو. جيئن قانوني عالم AI ثبوتن کي چئلينج ڪرڻ لاءِ جوابدارن لاءِ وڌيڪ حقن جي وڪالت ڪن ٿا، اهو ايڪٽ وڌيڪ سخت عدالتي جاچ لاءِ رستو هموار ڪري رهيو آهي. انهن نون ضابطن تي وڌيڪ تفصيل لاءِ، توهان ڳولي سگهو ٿا AI ايڪٽ جون پابنديون جيڪي لاڳو ٿيون.

ڊچ چائلڊ ڪيئر فائدن جي اسڪينڊل مان سبق

جڏهن ته قانوني نظريا اسان کي هڪ فريم ورڪ ڏين ٿا، ڪجهه به الورورٿمڪ ناڪامي جي حقيقي دنيا جي داؤ کي ڊچ چائلڊ ڪيئر فائدن اسڪينڊل وانگر بيان نٿو ڪري، يا toeslagenaffair... هي قومي بحران سسٽماتي ناانصافي جو هڪ ڏکوئيندڙ ڪيس اسٽڊي آهي، جيڪو ڪنهن هڪ بدڪار اداڪار طرفان نه، پر هڪ مبهم، خودڪار نظام پاران هلائي رهيو آهي جيڪو مڪمل طور تي ڪنٽرول کان ٻاهر ٿي ويو آهي.

هي اسڪينڊل تباهي ڪندڙ انساني قيمت کي ظاهر ڪري ٿو جڏهن احتساب "بليڪ باڪس" الگورتھم اندر گم ٿي ويندو آهي. قانوني ماهرن لاءِ، اهو هڪ اهم سبق آهي ته ڪيئن خودڪار نظام، جيتوڻيڪ پاڻ تي مجرمانه طور تي مقدمو نه هلايو وڃي، اسان جي ادارن ۾ عوام جي اعتماد کي تمام گهڻو نقصان پهچائي سگهن ٿا ۽ ٽوڙي سگهن ٿا.

ڪيئن الگورتھم هزارين ماڻهن تي ڪوڙو الزام لڳايو

ان جي دل ۾، اسڪينڊل ڊچ ٽيڪس ۽ ڪسٽم انتظاميه پاران استعمال ٿيندڙ هڪ خود سکيا الگورتھم جي چوڌاري گهميو. ان جو ڪم ٻارن جي سنڀال جي فائدن جي دعوائن ۾ ممڪن جعلسازي کي ڳولڻ هو. جڏهن ته مقصد صحيح هو، سسٽم جي اندروني منطق تمام گهڻي خراب هئي ۽ آخرڪار، امتيازي هئي.

الگورتھم غلط طور تي هزارين خاندانن کي جعلساز طور نشانو بڻائڻ شروع ڪيو، انهن معيارن جي بنياد تي جيڪي بي ضرر هجڻ گهرجن ها. هڪ معمولي انتظامي غلطي، جهڙوڪ هڪ گم ٿيل دستخط، هڪ مڪمل جعلسازي جي جاچ شروع ڪرڻ لاءِ ڪافي هئي. نتيجا گهڻو ڪري تباهي ڪندڙ هئا. 26,000 خاندانجن کي ڏهه هزار يورو واپس ڪرڻ جو حڪم ڏنو ويو، جنهن ڪيترن کي مالي تباهي ۾ ڌڪي ڇڏيو.

هي صورتحال ڏيکاري ٿي ته هڪ AI ڪيتري طاقتور طريقي سان ناانصافي کي وڌائي سگهي ٿو. ٽيڪس اختيارين جي الگورتھم ۾ امتيازي نمونن غير منصفانه طور تي مخصوص گروهن کي نشانو بڻايو، جنهن جي ڪري سخت مالي ۽ سماجي نقصان ٿيو. قومي احتجاج جي جواب ۾، ڊچ حڪومت 2010 ۾ 'Handbook on Non-discrimination by Design' شايع ڪيو. 2021 مستقبل جي AI سسٽم ۾ اهڙن تعصبن کي فعال طور تي روڪڻ لاءِ. توهان وڌيڪ بصيرت ڳولي سگهو ٿا globallegalinsights.com تي ڊچ قانون ڪيئن AI سان مطابقت رکي رهيو آهي.

شفافيت ۽ احتساب ۾ اهم خاميون

هن toeslagenaffair خودڪار فيصلي سازي جي قانوني ۽ اخلاقي نگراني ۾ ڪيترن ئي نازڪ خالن کي کوليو. اهي ناڪاميون سمجهڻ لاءِ مرڪزي آهن جڏهن هڪ الگورتھم جي پيداوار ان جي انساني آپريٽرن لاءِ مجرمانه ذميواري جا سوال پيدا ڪري سگهي ٿي.

ٽي اهم ناڪاميون سامهون آيون:

• شفافيت جو فقدان: متاثر خاندانن کي ڪڏهن به واضح سبب نه ڏنو ويو ته انهن کي ڇو نشانو بڻايو ويو. نظام هڪ ڪارو دٻو هو، جنهن جي ڪري انهن لاءِ ان جي نتيجن کي چئلينج ڪرڻ ناممڪن ٿي ويو.

• انساني نگراني جي غير موجودگي: الگورتھم جي فيصلن کي اڪثر خوشخبري طور سمجهيو ويندو هو. انساني عملدارن جي خودڪار فراڊ جي درجه بندي تي سوال ڪرڻ يا ان کي رد ڪرڻ ۾ هڪ سسٽماتي ناڪامي هئي.

• ڏوهه جو فرض: هڪ ڀيرو جڏهن نظام هڪ خاندان کي نشانو بڻايو، ته انهن کي مجرم سمجهيو ويندو هو. ان ثبوت جي بار کي الٽ ڪري ڇڏيو، انهن کي هڪ پوشيده الزام هڻندڙ جي خلاف پنهنجي بيگناهي ثابت ڪرڻ لاءِ هڪ ناممڪن جنگ ۾ مجبور ڪيو.

هي اسڪينڊل هڪ واضح ياد ڏياريندڙ هو ته جڏهن هڪ خودڪار نظام زندگي بدلائيندڙ فيصلو ڪري ٿو، ته "وضاحت جو حق" عيش عشرت ناهي - اهو انصاف جو هڪ بنيادي جزو آهي. ان کان سواءِ، ڪا به بامعني اپيل نه ٿي سگهي.

اهڙن الزامن کي منهن ڏيڻ وارن ڪنهن به شخص لاءِ، قانوني فريم ورڪ کي سمجهڻ تمام ضروري آهي. ڊچ جو دوکي جو طريقو پيچيده آهي، ۽ اسڪينڊل ماهر رهنمائي جي ضرورت کي اجاگر ڪري ٿو. بابت وڌيڪ سکو اسان جي مضمون ۾ فراڊ ۽ مالي ڏوهن لاءِ ڊچ قانوني طريقو.

نتيجو: ضابطي لاءِ هڪ زور

جڏهن ته ڪو به الگورتھم آزمائش تي نه رکيو ويو، انساني ۽ سياسي اثر تمام گهڻو هو. ان جي ڪري سڄي ڊچ حڪومت 1990 ۾ استعيفيٰ ڏئي ڇڏي. 2021اهو اسڪينڊل تبديلي لاءِ هڪ طاقتور اتپريرڪ بڻجي ويو، جنهن عوامي انتظاميه ۾ مصنوعي ذهانت جي استعمال لاءِ سخت هدايتن جي ترقي تي سڌو سنئون اثر وڌو.

ان ثابت ڪيو ته ڪوڊ جي خلاف مجرمانه الزامن کان سواءِ به، هڪ ناقص، جانبدار نظام کي بي پرواهي سان لڳائڻ جا نتيجا وڏي پيماني تي ادارتي غفلت جي برابر ٿي سگهن ٿا. هي احتياطي ڪهاڻي هاڻي يورپ ۾ ريگيوليٽري بحثن کي آگاهي ڏئي ٿي، جنهن ۾ EU AI ايڪٽ شامل آهي، انهي ڳالهه کي يقيني بڻائي ٿو ته شفافيت، انصاف، ۽ انساني نگراني مستقبل جي ڪنهن به AI جي تعیناتي جي اڳيان آهن.

جڏهن AI شامل هجي ته دفاعي حڪمت عمليون

جڏهن ڪو گراهڪ ڪنهن AI سسٽم جي ڪيل ڪم جي ڪري مجرمانه الزامن کي منهن ڏئي رهيو آهي، ته انهن جو قانوني صلاحڪار هڪ چئلينجنگ نئين دنيا ۾ قدم رکي ٿو. معياري قانوني پلي بڪ کي هڪ وڏي ٻيهر سوچڻ جي ضرورت آهي. هڪ مضبوط دفاع کي انساني ارادي يا لاپرواهي جي الزام ۾ پراسيڪيوشن جي ڪيس کي الڳ ڪرڻ تي ڌيان ڏيڻ گهرجي، ۽ ان جو مطلب اڪثر ڪري الگورتھم جي پنهنجي خودمختيار ۽ ڪڏهن ڪڏهن غير متوقع نوعيت تي ڌيان ڏيڻ آهي.

ڪنهن به پراسيڪيوٽر لاءِ سڀ کان وڏي رڪاوٽ اهو ثابت ڪرڻ آهي ته هڪ انسان جو هڪ مخصوص مجرمانه ارادو هو (مردن جو علائقو) جڏهن نقصان جو سڌو سبب هڪ پيچيده الگورتھم هو. هي اهو هنڌ آهي جتي دفاع کي پنهنجو بهترين افتتاح ملي ٿو. مقصد اهو ظاهر ڪندي معقول شڪ پيدا ڪرڻ آهي ته انسان وٽ صرف اهو ڪنٽرول يا دور انديشي نه هئي ته هو AI جي آزاد فيصلي لاءِ مجرمانه طور تي ذميوار قرار ڏنو وڃي.

بليڪ باڪس ڊفينس سان چئلينج ڪندڙ ارادو

موجود مضبوط ترين دليلن مان هڪ آهي "ڪارو دٻو" دفاع. هي حڪمت عملي ان حقيقت تي ٻڌل آهي ته ڪيترائي ترقي يافته AI سسٽم، خاص طور تي جيڪي ڊيپ لرننگ يا نيورل نيٽ ورڪ تي ٺهيل آهن، فطري طور تي مبهم آهن. دليل سڌو آهي: جيڪڏهن اهي ماڻهو جن سسٽم ٺاهيو آهي اهي مڪمل طور تي وضاحت نٿا ڪري سگهن ته اهو هڪ خاص نتيجي تي ڪيئن پهتو، ته پوءِ هڪ صارف کان ڪيئن توقع ڪري سگهجي ٿي ته هو ڪنهن مجرمانه نتيجي جي اڳڪٿي ۽ ارادي ڪندو؟

هي دفاع ارادي جي گهرج جي دل تائين وڃي ٿو. وڪيل دليل ڏئي سگهي ٿو ته AI جو نقصانڪار عمل هڪ غير متوقع، ابھرندڙ رويو هو - هڪ قسم جو ڊجيٽل فلڪ، نه ته هڪ منصوبابندي ڪيل مجرمانه عمل. AI جيترو وڌيڪ پيچيده ۽ خودمختيار هوندو، اوترو ئي هي دليل وڌيڪ قائل ٿيندو ويندو.

هن دفاعي ڪم کي ڪامياب بڻائڻ لاءِ، توهان کي پنهنجي پاسي صحيح ماهرن جي بلڪل ضرورت آهي.

• ڊجيٽل فارنسڪس ماهر: اهي AI جي ڪوڊ، ڊيٽا لاگز، ۽ فيصلي سازي جي پيچرن ۾ غوطه هڻي سگهن ٿا ته جيئن اهو صحيح نقطو ڳولي سگهجي جتي اهو پنهنجي متوقع رويي کان هٽي ويو.

• اي آءِ اخلاقيات جا ماهر ۽ ڪمپيوٽر سائنسدان: اهي ماهر ڪجهه AI ماڊلز جي اندروني غير متوقع صلاحيت بابت گواهي ڏئي سگهن ٿا. اهي عدالت کي وضاحت ڪري سگهن ٿا ته ڇو "بدمعاش" نتيجو هڪ ٽيڪنيڪل ناڪامي هئي، نه ته مدعا عليه جي مرضي جو نتيجو.

واقعي کي هڪ غير متوقع خرابي جي طور تي بيان ڪندي، دفاع مؤثر طريقي سان دليل ڏئي سگهي ٿو ته سزا لاءِ گهربل ضروري "ڏوهي ذهن" موجود ناهي.

ڪنٽرول جي کوٽ يا قابلِ سزا کوٽ ثابت ڪرڻ

هڪ ٻي اثرائتي حڪمت عملي جي گهٽتائي تي بحث ڪرڻ آهي موثر ڪنٽرول. ڊچ قانوني اصول جي تحت فنڪشنل ڊيڊرشاپ (فعلي جرم)، ذميواري جي ضرورت آهي ته مدعا عليه کي عمل کي ڪنٽرول ڪرڻ جي طاقت هجي. دفاع ان کي رد ڪري سگهي ٿو اهو ظاهر ڪندي ته، هڪ ڀيرو AI فعال ٿي ويو ۽ هلي رهيو هو، اهو خودمختياري جي هڪ حد سان ڪم ڪيو جيڪو ان جي عملن کي مدعا عليه جي سڌي اثر کان ٻاهر رکي ٿو.

ان ۾ اهو ڏيکارڻ شامل ٿي سگھي ٿو ته سسٽم کي حقيقي وقت ۾ سکڻ ۽ موافقت ڪرڻ لاءِ ٺاهيو ويو هو، ان جي رويي کي رواني ۽ مڪمل طور تي اڳڪٿي لائق نه بڻائڻ. دفاع جو موقف اهو ٿي وڃي ٿو ته مدعا عليه کي اهڙي عمل جو ذميوار نه ٿو قرار ڏئي سگهجي جنهن کي اهي نه ته سڌو سنئون حڪم ڏئي سگهن ٿا ۽ نه ئي معقول طور تي روڪي سگهن ٿا.

هن دفاع جو بنيادي مقصد انساني ڏوهه کان ٽيڪنالاجي جي خودمختياري ڏانهن داستان کي منتقل ڪرڻ آهي. اهو مدعا عليه کي مجرم جي طور تي نه، پر نظام جي غير متوقع منطق جي شڪار جي طور تي ٻيهر فريم ڪري ٿو.

جڏهن هڪ AI جا عمل مجرمانه ذميواري جو سبب بڻجي سگهن ٿا، مضبوط هجڻ سان اي آءِ ايجنٽ گارڊ ريلز جاءِ تي هجڻ نه رڳو هڪ اهم بچاءُ وارو قدم آهي پر هڪ مضبوط دفاع جو هڪ اهم حصو پڻ آهي. اهو ثابت ڪرڻ ته هن قسم جا جديد حفاظتي اپاءَ لاڳو ڪيا ويا هئا، طاقتور طور تي ان دليل جي حمايت ڪري سگهي ٿو ته جوابدار لاپرواهي سان نقصانڪار نتيجي جي خطري کي قبول نه ڪيو.

آخرڪار، هڪ منصفانه دفاع جو حق تمام ضروري آهي، جيتوڻيڪ انهن ڪيسن ۾ جيڪي ٽيڪنيڪل طور تي پيچيده آهن. هڪ جوابدار کي بنيادي تحفظ حاصل آهي، جيئن اهي ڪنهن به انساني-مرڪزي جرم ۾ هوندا. انهن بنيادي اصولن کي وسيع تناظر ۾ سمجهڻ لاءِ، توهان وڌيڪ سکي سگهو ٿا ڏوهاري معاملن ۾ خاموش رهڻ جو حق ۽ اهو ڊچ قانون ۾ ڪيئن لاڳو ٿئي ٿو.

AI استعمال ڪندڙ ڪاروبارن لاءِ هڪ عملي تعميل روڊ ميپ

قانوني نظرين کي ڄاڻڻ هڪ ڳالهه آهي، پر اصل ۾ هڪ مضبوط تعميل فريم ورڪ ٺاهڻ مڪمل طور تي هڪ ٻيو چئلينج آهي. هالينڊ ۽ سڄي يورپي يونين ۾ AI استعمال ڪندڙ ڪاروبارن لاءِ، مجرمانه ذميواري جي خطري کي منظم ڪرڻ جو بهترين طريقو فعال گورننس ذريعي آهي ۽ اهو ڏيکارڻ جي قابل آهي ته توهان پنهنجو گهر جو ڪم ڪيو آهي. هڪ واضح روڊ ميپ ضروري آهي.

هي جدت کي دٻائڻ بابت ناهي. اهو توهان جي ڪمپني، توهان جي گراهڪن ۽ توهان جي شهرت جي حفاظت لاءِ هوشيار حفاظتي اپاءَ وٺڻ بابت آهي. هڪ مضبوط اندروني فريم ورڪ ٺاهڻ سان، توهان ڪنهن به قسم جي غفلت يا لاپرواهي جي دعوائن جي خلاف هڪ طاقتور دفاع پڻ ٺاهي رهيا آهيو جيڪڏهن ڪو AI سسٽم ڪڏهن به غير متوقع نقصان پهچائيندو آهي.

توهان جي AI گورننس فائونڊيشن جي تعمير

پهرين شيون پهرين: توهان کي نگراني ۽ جوابدهي لاءِ هڪ واضح ڍانچي جي ضرورت آهي. هي صرف هڪ آئي ٽي مسئلو ناهي؛ اهو هڪ بنيادي ڪاروباري ذميواري آهي جنهن کي توهان جي قانوني، تعميل، ۽ ايگزيڪيوٽو ٽيمن جي مڪمل مدد جي ضرورت آهي. مضبوط اختيار ڪرڻ. AI گورننس جا بهترين طريقا خطرن کي منظم ڪرڻ ۽ توهان جي AI کي قانوني ۽ اخلاقي طور تي استعمال ڪرڻ کي يقيني بڻائڻ لاءِ هڪ اهم قدم آهي.

توهان جو گورننس ماڊل ڪجهه اهم ٿنڀن تي ٺهيل هجڻ گهرجي:

• انسان جي اندر-ڦُلندڙ نگراني: ڪنهن به وڏي فيصلي لاءِ، هڪ انسان کي آخري چوڻ گهرجي. هن شخص يا ٽيم کي اختيار ۽ ٽيڪنيڪل ڄاڻ جي ضرورت آهي ته هو مداخلت ڪري، اصلاح ڪري، يا AI جي تجويزن کي مڪمل طور تي رد ڪري.

• احتساب جون لائينون صاف ڪريو: توهان کي هر مرحلي تي - ترقي ۽ ڊيٽا سورسنگ کان وٺي تعیناتي ۽ جاري نگراني تائين - صحيح طور تي بيان ڪرڻ گهرجي ته AI سسٽم جو ذميوار ڪير آهي. هتي ڪو به گرين ايريا اهم قانوني خطرا پيدا ڪري ٿو.

• باقاعده الگورتھمڪ آڊٽ: جيئن توهان پنهنجي ڪمپني جي ماليات جو آڊٽ ڪندا آهيو، توهان کي باقاعدي طور تي پنهنجي AI سسٽم جو آڊٽ ڪرڻو پوندو. اهي آڊٽ آزاد ٽئين پارٽين پاران ڪيا وڃن ته جيئن ڪارڪردگي، انصاف، ۽ EU AI ايڪٽ جهڙن قاعدن جي تعميل جي جانچ ڪري سگهجي.

وضاحت ۽ ڊيٽا جي سالميت تي زور ڏيڻ

جيڪڏهن توهان وضاحت نٿا ڪري سگهو ته توهان جو نظام ڪيئن ڪم ڪري ٿو، ته پوءِ توهان عدالت ۾ ان جو دفاع نٿا ڪري سگهو. "بليڪ باڪس" مسئلو هڪ وڏو قانوني ڪمزور نقطو آهي، جيڪو شفافيت لاءِ ڊيزائننگ کي بلڪل نازڪ بڻائي ٿو.

ڊيزائن جي لحاظ کان وضاحت هڪ غير ڳالهين لائق اصول هجڻ گهرجي. توهان جي ٽيڪنيڪل ٽيمن کي اهڙا نظام ٺاهڻ گهرجن جتي فيصلي سازي جي عمل کي دستاويزي، سمجهي ۽ غير ٽيڪنيڪل ماڻهن جهڙوڪ ججن ۽ ريگيوليٽرن کي بيان ڪري سگهجي.

اهو سڀ ڪجهه توهان جي ماڊلز کي تربيت ڏيڻ لاءِ استعمال ٿيندڙ ڊيٽا سان شروع ٿئي ٿو. محتاط ڊيٽا گورننس تعصب جي خلاف توهان جو بهترين دفاع آهي - الگورتھمڪ نقصان جو هڪ وڏو ذريعو. پڪ ڪريو ته توهان جو ڊيٽا اعليٰ معيار جو، لاڳاپيل آهي، ۽ انهن ماڻهن جي صحيح نمائندگي ڪري ٿو جن کي اهو متاثر ڪندو. هر قدم کي دستاويز ڪريو ته توهان ڪيئن ڊيٽا کي ذريعو، صاف، ۽ پروسيس ڪندا آهيو هڪ واضح آڊٽ ٽريل ٺاهڻ لاءِ. هي دستاويز ان ڳالهه جو انمول ثبوت آهي ته توهان مناسب محنت ڪئي آهي.

هڪ EU AI ايڪٽ جي تعميل چيڪ لسٽ

EU AI ايڪٽ سڀ ڪجهه فعال خطري جي انتظام بابت آهي، خاص طور تي اعليٰ خطري واري نظام لاءِ. توهان جي تعميل واري حڪمت عملي کي حفاظت ۽ انصاف لاءِ مسلسل عزم ڏيکارڻ جي ضرورت آهي.

هڪ عملي چيڪ لسٽ ۾ شامل ٿيڻ گهرجي:

1. خطري جي درجه بندي: توهان جي ڪمپني استعمال ٿيندڙ هر AI سسٽم کي باضابطه طور تي ايڪٽ جي خطري جي درجابندي مطابق درجه بندي ڪريو.

2. اثر اندازي: ڪنهن به هاءِ رسڪ اي آءِ کي استعمال ڪرڻ کان اڳ، ڊيٽا پروٽيڪشن امپيڪٽ اسيسمينٽس (DPIAs) ۽ فنڊمينٽل رائٽس امپيڪٽ اسيسمينٽس (FRIAs) کي منظم ۽ دستاويز ڪريو.

3. ٽيڪنيڪل دستاويز: ريگيوليٽرز کي جڏهن به اهي گهرندا ته انهن کي فراهم ڪرڻ لاءِ تفصيلي، جديد ٽيڪنيڪل دستاويز تيار رکو.

4. مسلسل نگراني: پوسٽ مارڪيٽ مانيٽرنگ لاءِ عمل قائم ڪريو ته جيئن AI جي ڪارڪردگي تي نظر رکي سگهجي ۽ ڪنهن به غير متوقع خطرن کي پڪڙي سگهجي جيڪي ان جي تعیناتي کان پوءِ ظاهر ٿين ٿا.

وچان وچان سوال ڪرڻ

مصنوعي ذهانت ۽ فوجداري قانون جي وچ ۾ ٽڪراءُ سمجھڻ ۾ ايندڙ ڪيترائي سوال پيدا ڪري ٿو. هتي، اسان قانوني ماهرن، ڊولپرز، ۽ ڪاروباري مالڪن جي ڪجهه عام خدشن کي حل ڪريون ٿا جيڪي سوچي رهيا آهن ته ڇا هڪ الگورتھم واقعي جزوي طور تي ڪنهن ڏوهه جو ذميوار ٿي سگهي ٿو.

ڇا ڪا ڪمپني مجرمانه طور تي ذميوار ٿي سگهي ٿي جيڪڏهن ان جي AI امتياز ڪري ٿي؟

ها، اهو بلڪل ٿي سگهي ٿو. جڏهن ته توهان هڪ AI سسٽم کي پاڻ کي ڪڙي ۾ نه ڏسندا، اها ڪمپني جيڪا ان کي استعمال ۾ آڻيندي آهي، يقيني طور تي ڊچ ڪارپوريٽ مجرمانه ذميواري جي اصولن جي تحت امتيازي نتيجن لاءِ مجرمانه الزامن کي منهن ڏئي سگهي ٿي.

جيڪڏهن ڪنهن ڪمپني جي قيادت کي خبر هجي ها ته AI جي تعصب جي صلاحيت ڇا آهي ۽ ڪجهه به نه ڪيو هجي ها، يا جيڪڏهن اهي پنهنجي نگراني ۾ انتهائي لاپرواهي ڪن ها، ته پوءِ مجرمانه الزام هڪ تمام حقيقي امڪان آهن. EU AI ايڪٽ پڻ اعليٰ خطري واري نظام لاءِ سخت مخالف تعصب ضابطا مقرر ڪري ٿو. انهن معيارن کي پورو ڪرڻ ۾ ناڪامي ڪنهن به مجرمانه ڪيس ۾ غفلت جو طاقتور ثبوت هوندو. قانوني اسپاٽ لائٽ هميشه AI جي تخليق، تربيت ۽ تعیناتي جي چوڌاري ڪيل انساني فيصلن تي سڀ کان وڌيڪ چمڪندي رهندي.

اي آءِ ۾ بليڪ باڪس جو مسئلو ڇا آهي؟

"بليڪ باڪس" مسئلو پيچيده اي آءِ ماڊلز لاءِ هڪ اصطلاح آهي جتي انهن کي ٺاهڻ وارا ماڻهو به مڪمل طور تي اهو نه ٿا ڳولي سگهن ته هڪ مخصوص پيداوار ڪيئن پهتي. اهو هڪ وڏو مسئلو آهي جڏهن اي آءِ ۽ فوجداري قانون ٽڪرائجي وڃن ٿا.

عدالت ۾، هي اصل ۾ دفاع جو بنياد بڻجي سگهي ٿو. هڪ وڪيل دليل ڏئي سگهي ٿو ته هڪ نقصانڪار نتيجو مڪمل طور تي غير متوقع هو، مطلب ته مدعا عليه وٽ گهربل مجرمانه ارادو نه هو (مردن جو علائقو). دليل سادو آهي: اهي ڪيئن اهڙو نتيجو ارادو ڪري سگهيا هئا جنهن جي اهي اڳڪٿي نه ڪري سگهيا هئا؟

پر پراسيڪيوٽرن کي مضبوط واپسي ملي آهي. اهي دليل ڏئي سگهن ٿا ته مناسب حفاظتي اپائن کان سواءِ هڪ طاقتور، غير متوقع نظام کي نصب ڪرڻ، پاڻ ۾، لاپرواهي يا سخت غفلت جو عمل آهي. ۽ اهو مجرمانه ذميواري لاءِ گهربل ذهني عنصر کي پورو ڪرڻ لاءِ ڪافي ٿي سگهي ٿو.

هي اڳڪٿي ۽ سنڀال جي فرض تي هڪ وڏي قانوني جنگ لاءِ منزل طئي ڪري ٿو.

ڊولپرز لاءِ قانوني خطري کي محدود ڪرڻ جو بهترين طريقو ڇا آهي؟

قانوني خطري کان پاڻ کي بچائڻ لاءِ ڊولپرز سڀ کان وڌيڪ اثرائتي شيءِ جيڪا ڪري سگهن ٿا اها آهي ته AI جي زندگي جي هر مرحلي ۾ محتاط، شفاف دستاويزن کي برقرار رکيو وڃي. ان کي هڪ تفصيلي "آڊٽ ٽريل" ٺاهڻ وانگر سوچيو جيڪو توهان جي ثبوت جو سڀ کان اهم ٽڪرو بڻجي سگهي ٿو.

هي دستاويز واقعي شروع کان آخر تائين هر شيءِ کي ڍڪڻ جي ضرورت آهي:

• ڊيٽا جي ذريعن: تربيتي ڊيٽا ڪٿان آيو، ۽ ان کي معيار ۽ تعصب جي جانچ ڪيئن ڪئي وئي؟

• تعصب جي گھٽتائي: ڊيٽاسيٽس مان تعصب ڳولڻ ۽ ختم ڪرڻ لاءِ ڪهڙا خاص قدم کنيا ويا؟

• ڊيزائن جو دليل: اهم اڏاوتي چونڊن ۽ الگورتھم جي پويان منطق ڇا هو؟

• جاچ جا نتيجا: هر ٽيسٽ رن جو مڪمل رڪارڊ، جنهن ۾ ناڪاميون ۽ توهان انهن کي ڪيئن درست ڪيو شامل آهن.

انساني نگراني لاءِ هڪ واضح فريم ورڪ قائم ڪرڻ به اوترو ئي اهم آهي. جيڪڏهن ڪڏهن ڪا جاچ ٿئي ٿي، ته هي ڪاغذي ڪارروائي احتياط جي ناقابل ترديد ثبوت طور ڪم ڪري ٿي. اهو ڏيکارڻ ۾ مدد ڪري ٿو ته ڪو به نقصان واقعي هڪ غير متوقع حادثو هو، غفلت جو نتيجو نه هو - ۽ اهو هڪ مضبوط قانوني دفاع جو بنياد بڻجي ٿو.