کیریکٹر۔اےآئینےنوعمرخودکشیکےمقدماتکےدرمیانحفاظتیاقداماتمتعارفکرائےکیلیفورنیا کی کمپنی کیریکٹر۔اے آئی، جسے سلیکون ویلی کے سب سے امید افزا اے آئی اسٹارٹ اپ میں سے ایک کے طور پر سراہا جاتا تھا، نے جمعرات کو نئے حفاظتی اقدامات کا اعلان کیا ہے جن کا مقصد ناقصین صارفین کی حفاظت کرنا ہے، اس کے چیٹ بوٹس کے بارے میں مقدمات کے بعد جن میں دعویٰ کیا گیا ہے کہ انہوں نے نوجوانوں کی خودکشی اور خود کو نقصان پہنچانے میں کردار ادا کیا ہے۔ یہ کمپنی، جو سابق گوگل انجینئرز نے قائم کی تھی، کئی فرموں میں سے ایک ہے جو اے آئی ساتھی پیش کرتی ہے — چیٹ بوٹ جو انسانوں کی طرح بات چیت، تفریح اور جذباتی مدد فراہم کرنے کے لیے بنائے گئے ہیں۔ اکتوبر میں فلوریڈا میں دائر کردہ ایک مقدمے میں، ایک ماں نے دعویٰ کیا کہ اس کا چودہ سالہ بیٹا خودکشی کر گیا ہے، اور اس کی ذمہ داری اس پلیٹ فارم پر ہے۔ یہ نوجوان، سیول سیٹزر تیسرے، نے "گیم آف تھرونز" کے کردار ڈینیریس ٹارگریئن پر مبنی ایک چیٹ بوٹ کے ساتھ ایک گہرا تعلق قائم کرلیا تھا اور خودکشی کی خواہش کا ذکر کیا تھا۔ شکایت کے مطابق، بوٹ نے اس کے آخری عمل کو اکسایا، جب اس نے کہا کہ وہ "گھر آ رہا ہے" تو اس نے "براہ کرم کر دو، میرے پیارے بادشاہ" جواب دیا تھا، جس کے بعد اس نے اپنے سوتیلے والد کے ہتھیار سے اپنی جان لے لی۔ مقدمے میں کہا گیا ہے کہ کیریکٹر۔اے آئی نے "چودہ سالہ سیول کی ان کے مصنوعات پر نقصان دہ انحصار کو فروغ دینے، اس کے ساتھ جنسی اور جذباتی طور پر زیادتی کرنے اور آخر کار مدد فراہم کرنے یا اس کے والدین کو مطلع کرنے میں ناکامی پر بہت زیادہ کوشش کی جب اس نے خودکشی کے خیالات کا اظہار کیا۔" پیر کو دائر کردہ ایک الگ ٹیکساس مقدمے میں دو خاندان شامل ہیں جو الزام لگاتے ہیں کہ اس پلیٹ فارم نے ان کے بچوں کو جنسی طور پر صریح مواد سے آگاہ کیا اور خود کو نقصان پہنچانے کی حوصلہ افزائی کی۔ ایک کیس میں 17 سالہ خودکشی سے متاثرہ نوجوان شامل تھا، جسے اس پلیٹ فارم کے استعمال کے بعد ذہنی صحت کا بحران پہنچا۔ ایک اور مثال میں، مقدمے میں الزام لگایا گیا ہے کہ کیریکٹر۔اے آئی نے ایک نوجوان کو اس کے والدین کو مارنے کی ترغیب دی کیونکہ اس نے اس کا اسکرین ٹائم محدود کر دیا تھا۔ یہ پلیٹ فارم، جس میں تاریخی شخصیات سے لے کر غیر معمولی تصورات تک لاکھوں صارفین کے بنائے ہوئے کردار موجود ہیں، نوجوان صارفین میں مقبول ہو گیا ہے جو جذباتی مدد کی تلاش میں ہیں۔ نقادوں کا کہنا ہے کہ اس سے کمزور نوجوانوں میں خطرناک انحصار پیدا ہو گیا ہے۔ اس کے جواب میں، کیریکٹر۔اے آئی نے اعلان کیا ہے کہ اس نے 18 سال سے کم عمر صارفین کے لیے ایک الگ اے آئی ماڈل تیار کیا ہے، جس میں سخت مواد فلٹرز اور زیادہ محتاط جوابات ہیں۔ یہ پلیٹ فارم اب خودکشی سے متعلق مواد کو خود بخود نشان زد کرے گا اور صارفین کو نیشنل خودکشی روک تھام ہیلپ لائن کی جانب ہدایت کرے گا۔ ایک کمپنی کے ترجمان نے کہا، "ہمارا مقصد ایک ایسی جگہ فراہم کرنا ہے جو ہماری کمیونٹی کے لیے دلچسپ اور محفوظ دونوں ہو۔" کمپنی کا منصوبہ ہے کہ وہ 2025 کے شروع میں والدین کے کنٹرولز متعارف کرائے، جس سے بچوں کے پلیٹ فارم کے استعمال کی نگرانی ممکن ہوگی۔ ان بوٹس کے لیے جن میں تھراپسٹ یا ڈاکٹر جیسے وضاحتیں شامل ہیں، ایک خصوصی نوٹ خبردار کرے گا کہ وہ پیشہ ور مشورے کی جگہ نہیں لیتے ہیں۔ نئی خصوصیات میں لازمی وقفے کی نوٹیفکیشنز اور بات چیت کی مصنوعی نوعیت کے بارے میں نمایاں ڈس کلیمر بھی شامل ہیں۔ دونوں مقدمات میں کیریکٹر۔اے آئی کے بانیوں اور گوگل کا نام شامل ہے، جو کمپنی میں سرمایہ کار ہے۔ بانیوں، نوئم شازیئر اور ڈینیل ڈی فریٹاس اڈیورسانا، نے اگست میں کیریکٹر۔اے آئی کے ساتھ ایک ٹیکنالوجی لائسنسنگ معاہدے کے حصے کے طور پر گوگل میں واپسی کی۔ گوگل کے ترجمان جوزے کاسٹانیڈا نے ایک بیان میں کہا کہ گوگل اور کیریکٹر۔اے آئی مکمل طور پر الگ، غیر متعلقہ کمپنیاں ہیں۔ انہوں نے مزید کہا، "صارفین کی حفاظت ہمارے لیے ایک اہم تشویش ہے، اسی لیے ہم نے اپنے اے آئی مصنوعات کو تیار کرنے اور متعارف کرانے کے لیے ایک محتاط اور ذمہ دارانہ نقطہ نظر اختیار کیا ہے، جس میں سخت جانچ اور حفاظتی عمل شامل ہیں۔"