ایک تحقیقاتی تجربے کے طور پر ایک مصنوعی ذہانت (AI) ماڈل کو مشہور امریکی سرمایہ کار اور مجرم جیفری اپسٹائن کے ای میلز کے مجموعے پر تربیت دی گئی ہے۔ اس AI ماڈل کو لوکل کمپیوٹر پر چلایا گیا تو اس نے ہمیں “گوییم” کہہ کر مخاطب کیا اور ایک پارٹی میں مدعو کیا۔ “گوییم” ایک عبرانی لفظ ہے جو عام طور پر غیر یہودی افراد کے لیے استعمال ہوتا ہے۔ اس طرح کے تجربات مصنوعی ذہانت کی صلاحیتوں اور اس کے اخلاقی اور سماجی پہلوؤں کا جائزہ لینے کے لیے کیے جاتے ہیں۔
جیفری اپسٹائن ایک متنازعہ شخصیت تھے جن پر جنسی استحصال اور بچوں کی تجارت کے الزامات لگے تھے۔ ان کے ای میلز کا ڈمپ کئی سال پہلے لیک ہوا تھا جس میں ان کے کاروباری اور ذاتی تعلقات کے بارے میں بہت سی معلومات شامل تھیں۔ حالیہ برسوں میں مصنوعی ذہانت کے مختلف ماڈلز کو خاص ڈیٹا سیٹس پر تربیت دے کر مخصوص گفتگو یا رویے پیدا کرنے کی کوشش کی جارہی ہے تاکہ ان کی صلاحیتوں اور ممکنہ خطرات کو سمجھا جا سکے۔
یہ تجربہ اس بات کی نشاندہی کرتا ہے کہ AI ماڈلز کو حساس اور متنازعہ مواد پر تربیت دینے سے وہ کس طرح غیر متوقع اور بعض اوقات غیر مناسب ردعمل دے سکتے ہیں، جس سے اس ٹیکنالوجی کے استعمال میں اخلاقیات اور رازداری کے مسائل جنم لیتے ہیں۔ اس کے علاوہ، ایسے ماڈلز کا غلط استعمال معلومات کو مسخ یا نقصان پہنچانے کے لیے بھی کیا جا سکتا ہے۔
مستقبل میں، مصنوعی ذہانت کی تربیت اور اس کے استعمال کے لیے سخت ضوابط اور اخلاقی رہنما خطوط کی ضرورت ہوگی تاکہ اس کے ممکنہ منفی اثرات کو کم کیا جا سکے۔ اس کے ساتھ ساتھ، صارفین اور محققین کو بھی اس بات کا خیال رکھنا ہوگا کہ وہ AI کے ساتھ بات چیت کرتے وقت محتاط اور ذمہ دارانہ رویہ اپنائیں۔
یہ خبر تفصیل سے یہاں پڑھی جا سکتی ہے: decrypt
