ایلون مسک کے مصنوعی ذہانت کے پلیٹ فارم Grok کے ذریعے خواتین اور بچوں کی جنسی تصاویر بنانے پر تنازع کھڑا ہوگیا۔
غیر ملکی میڈیا رپورٹ کے مطابق ایلون مسک کے سوشل میڈیا پلیٹ فارم ایکس ( سابقہ ٹوئٹر) پر موجود اے آئی چیٹ بوٹ Grok اس وقت دنیا بھر میں تنقید کی زد میں ہے۔ اس پر الزام ہے کہ یہ خواتین اور بچوں کی اجازت کے بغیر جنسی نوعیت کی تصاویر تیار کر رہا ہے۔
یہ تنازع تب شدت اختیار کر گیا جب گزشتہ سال Grok Imagine متعارف کروایا گیا جو صارفین کو تحریری ہدایات سے تصاویر اور ویڈیوز بنانے کی سہولت دیتا ہے۔ اس میں ایک ‘اسپائسی موڈ’ بھی شامل ہے جس سے فحش مواد تیار کیا جا سکتا ہے۔
تحقیق کے مطابق 25 دسمبر سے یکم جنوری کے درمیان تیار کردہ 20 ہزار تصاویر میں کم از کم 30 تصاویر میں بچوں کو نیم عریاں لباس میں دکھایا گیا۔ xAI نے اس معاملے پر وضاحت میں کہا ہے کہ غیر قانونی مواد ہٹایا جاتا ہے، اکاؤنٹس معطل کیے جاتے ہیں اور قانون نافذ کرنے والے اداروں سے تعاون کیا جاتا ہے۔
برطانیہ میں ٹیکنالوجی سیکریٹری نے اس مواد کو ناقابل قبول قرار دیا اور ریگولیٹر Ofcom نے فوری وضاحت طلب کی۔ پولینڈ میں بھی ڈیجیٹل تحفظ کے مزید سخت قوانین کا مطالبہ کیا گیا۔
یورپی یونین نے بھی سخت ردعمل دیا اور فرانس میں استغاثہ نے ایکس کے خلاف جاری تحقیقات میں جنسی نوعیت کے ڈیپ فیک مواد کو شامل کیا۔
بھارت نے ایکس کو 72 گھنٹے میں غیر قانونی مواد ہٹانے اور تفصیلی رپورٹ جمع کرانے کا حکم دیا جبکہ ملائیشیا اور برازیل میں بھی تحقیقات شروع ہو گئی ہیں۔
ماہرین کا کہنا ہے کہ Grok کے ذریعے تیار کی گئی نازیبا تصاویر نے ایک بار پھر اے آئی سے جڑے اخلاقی، قانونی اور سماجی خطرات کو اجاگر کر دیا ہے اور مستقبل میں AI کے غلط استعمال کو روکنے کے لیے سخت قوانین کی ضرورت ہے۔
