اوپن اے آئی اور اینتھروپک کا چیٹ جی پی ٹی پر انتہا پسندی کی روک تھام کے لیے نیا اقدام

نیوزی لینڈ میں ایک نیا ٹیکنالوجی ٹول تیار کیا جا رہا ہے جس کا مقصد چیٹ جی پی ٹی جیسے مصنوعی ذہانت کے پلیٹ فارمز پر پرتشدد اور انتہا پسندانہ رجحانات کا اظہار کرنے والے صارفین کی کونسلنگ کرنا ہے۔ اس اقدام کا بنیادی مقصد صارفین کو انسانی اور چیٹ بوٹ پر مبنی اصلاحی معاونت فراہم کرنا ہے تاکہ انہیں انتہا پسندی کی راہ سے ہٹایا جا سکے۔

یہ پیش رفت ایسے وقت میں سامنے آئی ہے جب عالمی سطح پر مصنوعی ذہانت تیار کرنے والی کمپنیوں کو تنقید کا سامنا ہے کہ وہ اپنے پلیٹ فارمز پر تشدد کو روکنے میں ناکام رہی ہیں۔ ماضی میں کینیڈا کی حکومت نے اوپن اے آئی کو اس وقت خبردار کیا تھا جب یہ انکشاف ہوا کہ پلیٹ فارم نے اسکول میں فائرنگ کے ایک ملزم کو تو بلاک کر دیا لیکن حکام کو مطلع نہیں کیا۔

تھرو لائن نامی اسٹارٹ اپ، جو پہلے ہی اوپن اے آئی، اینتھروپک اور گوگل کے ساتھ مل کر خودکشی، گھریلو تشدد اور نفسیاتی مسائل کا شکار صارفین کو مدد فراہم کر رہا ہے، اب اس دائرہ کار کو انتہا پسندی کے خاتمے تک بڑھانے پر غور کر رہا ہے۔ ادارے کے بانی ایلیٹ ٹیلر کے مطابق اس سلسلے میں کرائسٹ چرچ کال نامی تنظیم کے ساتھ بات چیت جاری ہے تاکہ ماہرین کی نگرانی میں ایک ایسا چیٹ بوٹ تیار کیا جا سکے جو انتہا پسندی کی روک تھام میں مددگار ثابت ہو۔

تھرو لائن کا نیٹ ورک دنیا کے 180 ممالک میں 1600 ہیلپ لائنز پر مشتمل ہے۔ جب اے آئی سسٹم کسی صارف میں ذہنی بحران کی علامات شناخت کرتا ہے تو اسے تھرو لائن کے ذریعے قریبی انسانی امدادی سروس سے منسلک کر دیا جاتا ہے۔ اب اسی ماڈل کو انتہا پسندانہ رجحانات کے لیے بھی استعمال کرنے کی تیاری کی جا رہی ہے۔

ماہرین کا کہنا ہے کہ یہ ٹیکنالوجی صرف مواد کو فلٹر نہیں کرے گی بلکہ ان تعلقات اور رویوں پر بھی کام کرے گی جو تشدد کی طرف لے جاتے ہیں۔ تاہم، اس منصوبے کے حتمی نتائج کا انحصار اس بات پر ہوگا کہ فالو اپ میکانزم کتنا موثر ہے۔

ایلیٹ ٹیلر نے خبردار کیا کہ اگر پلیٹ فارمز کسی صارف کی بات چیت کو یکسر بند کر دیتے ہیں تو اس سے خطرہ کم ہونے کے بجائے بڑھ سکتا ہے کیونکہ ایسا کرنے سے وہ فرد تنہائی کا شکار ہو کر مزید خطرناک راستوں پر نکل سکتا ہے۔ انہوں نے اس بات پر زور دیا کہ حکومتی دباؤ کے تحت اگر پلیٹ فارمز گفتگو روک دیں گے تو اس سے کسی کو مدد نہیں ملے گی اور وہ افراد ٹیلی گرام جیسے غیر ریگولیٹڈ پلیٹ فارمز پر منتقل ہو جائیں گے۔

اس نئے ٹول کی آزمائش جاری ہے تاہم اس کے باضابطہ اجرا کے لیے ابھی کوئی حتمی تاریخ طے نہیں کی گئی ہے۔ اوپن اے آئی نے تھرو لائن کے ساتھ تعلق کی تصدیق کی ہے لیکن مزید تبصرہ کرنے سے گریز کیا ہے۔