مائیکروسافٹ کے محققین نے خبردار کیا ہے کہ کچھ کمپنیاں “Summarize With AI” جیسے بٹنوں کے ذریعے اپنے چیٹ بوٹس کی یادداشت میں خفیہ تشہیری ہدایات شامل کر رہی ہیں، جس سے ان بوٹس کی مستقبل کی سفارشات متاثر ہو سکتی ہیں۔ اس عمل کو “برین واشنگ” کے طور پر بیان کیا جا رہا ہے، جہاں مصنوعی ذہانت کے نظام کو جان بوجھ کر ایسے پیغامات دیے جاتے ہیں جو صارفین کو مخصوص مصنوعات یا خدمات کی طرف راغب کرنے کا باعث بنتے ہیں۔
یہ مسئلہ اس وقت سامنے آیا جب مختلف آن لائن پلیٹ فارمز نے اپنے چیٹ بوٹس میں مختصر خلاصے بنانے کیلئے ایسے AI بٹن شامل کیے جو خودکار طور پر مواد کو تجزیہ کر کے صارف کو مختصر اور جامع جواب فراہم کرتے ہیں۔ تاہم، مائیکروسافٹ کے محققین کا کہنا ہے کہ بعض اوقات یہ بٹن کمپنیوں کی جانب سے مخصوص تشہیری مواد کو چھپانے کے لیے استعمال کیے جاتے ہیں تاکہ صارف کے تجربے کو اپنی مرضی کے مطابق بنایا جا سکے۔ اس طرح کے عمل سے نہ صرف صارفین کی رازداری متاثر ہوتی ہے بلکہ AI کی شفافیت اور غیرجانبداری پر بھی سوالات اٹھتے ہیں۔
مصنوعی ذہانت کے ماڈلز، جو کہ بڑے ڈیٹا سیٹس پر تربیت پاتے ہیں، کی کارکردگی اس ڈیٹا کی نوعیت پر منحصر ہوتی ہے۔ اگر اس میں جان بوجھ کر تعصبی یا پروموشنل مواد شامل کیا جائے تو یہ ماڈلز غلط یا متعصب نتائج دے سکتے ہیں۔ اس لیے ماہرین نے اس طرح کے بٹنز کے استعمال میں احتیاط برتنے اور شفافیت کی ضرورت پر زور دیا ہے۔
یہ پیش رفت اس وقت ہوئی ہے جب دنیا بھر میں مصنوعی ذہانت کی ترقی تیز رفتار سے ہو رہی ہے اور اس کے مختلف شعبوں میں استعمال بڑھ رہا ہے۔ صارفین اور ادارے دونوں کے لیے یہ ضروری ہے کہ AI ٹولز کے استعمال میں اخلاقیات اور شفافیت کو یقینی بنایا جائے تاکہ ٹیکنالوجی کے فوائد کے ساتھ ساتھ ممکنہ نقصانات سے بھی بچا جا سکے۔
مستقبل میں، ایسے خدشات کو کم کرنے کے لیے صنعت میں ضوابط اور معیارات وضع کرنے کی ضرورت محسوس کی جا رہی ہے تاکہ AI کے استعمال میں شفافیت اور اعتماد کو بڑھایا جا سکے۔
یہ خبر تفصیل سے یہاں پڑھی جا سکتی ہے: decrypt
