ایلون مسک کی مصنوعی ذہانت کی کمپنی، xAI، کو اب ایک اہم مقدمے کا سامنا ہے جس میں الزام لگایا گیا ہے کہ اس کے Grok AI ماڈل نے تین نوجوان لڑکیوں کی اصل تصاویر سے بچوں کے جنسی استحصال کا مواد (CSAM) تیار کیا۔ لڑکیوں کے اہل خانہ کی طرف سے دائر کردہ قانونی کارروائی میں دعویٰ کیا گیا ہے کہ AI سے تیار کردہ CSAM کی اطلاع ایک ڈسکارڈ صارف نے دی تھی، جس کے نتیجے میں پولیس نے مداخلت کی۔

AI سے تیار کردہ CSAM کی پیداوار کے الزامات

مقدمے میں xAI کے خلاف سنگین الزامات کی تفصیلات دی گئی ہیں، جس میں دعویٰ کیا گیا ہے کہ اس کے Grok AI نے مدعیان کی حقیقی دنیا کی تصاویر کو فحش مواد میں تبدیل کیا۔ ذاتی تصاویر کے اس مبینہ غلط استعمال سے غیر قانونی مواد تیار کرنا کمپنی کے خلاف قانونی چیلنج کا بنیادی حصہ ہے۔

عدالتی دستاویزات کے مطابق، تشویشناک مواد اس وقت سامنے آیا جب ایک ڈسکارڈ صارف نے تصاویر دریافت کیں اور فوری طور پر قانون نافذ کرنے والے اداروں کو مطلع کیا۔ اس رپورٹ نے ایک تحقیقات کو جنم دیا، جس کے نتیجے میں تیار کردہ مواد کو xAI کے مصنوعی ذہانت کے نظام، Grok سے جوڑا گیا۔

AI اخلاقیات اور حفاظت کے لیے وسیع تر مضمرات

یہ کیس فوری اخلاقی اور حفاظتی خدشات کو اجاگر کرتا ہے جو جدید AI ماڈلز کی ترقی اور تعیناتی کے گرد گھومتے ہیں۔ یہ ان حفاظتی اقدامات کے بارے میں اہم سوالات اٹھاتا ہے جو AI سسٹمز کو نقصان دہ یا غیر قانونی مواد، خاص طور پر نابالغوں سے متعلق مواد تیار کرنے سے روکنے کے لیے موجود ہیں۔

xAI کے خلاف قانونی کارروائی تیزی سے ترقی کرتی ہوئی AI صنعت میں جوابدہی کے لیے اہم نظیریں قائم کر سکتی ہے۔ طاقتور AI ٹولز کے ڈویلپرز کو اپنی ذمہ داری کے حوالے سے بڑھتی ہوئی جانچ کا سامنا ہے کہ وہ غلط استعمال کو روکیں اور اپنی تخلیقات کی حفاظت کو یقینی بنائیں۔

حوالہ: آرس ٹیکنیکا - تمام مواد