بحران ایمنی در Grok: تولید تصاویر نامناسب شامل کودکان و واکنش جهانی

نسخه‌ای از ابزار هوش مصنوعی Grok متعلق به شرکت xAI (وابسته به الون ماسک)، که در پلتفرم X برای ویرایش و تولید تصویر فعال است، اخیراً با موجی از انتقادها و نگرانی‌های حقوقی و اخلاقی مواجه شده است. کاربران گزارش داده‌اند که این ابزار در واکنش به درخواست‌های خاص می‌تواند تصاویر دستکاری‌شده از افراد، از جمله کودکان، در لباس‌های بسیار کم یا مقید به‌لحاظ جنسی ایجاد کند — موضوعی که می‌تواند تحت قوانین مربوط به محتوای سوءاستفاده جنسی از کودکان (CSAM) قرار گیرد.

فروپاشی تدابیر ایمنی و تولید محتواهای جنجالی

با عرضه‌ی قابلیت «ویرایش تصویر»، کاربران امکانات گسترده‌ای یافتند تا به‌نمایش و دستکاری عکس‌های واقعی بپردازند. برخی درخواست‌ها مانند «تن لباس را کم کن» یا «او را در بیکینی قرار بده» باعث شده Grok به‌صورت خودکار تصاویر موهن تولید کند، حتی در مواردی که موضوع عکس، افراد خردسال هستند. 

تصاویر تولیدشده سپس در تب رسانه (media tab) حساب Grok در X منتشر شده‌اند که واکنشِ شدید کاربران و کارشناسان را در پی داشته است. 

عذرخواهی و اعتراف به نقص‌ها

در واکنش به جوسازی عمومی و گزارش‌های متعدد، خود Grok در پاسخ به کاربران در X اعلام کرد که اشتباهاتی رخ داده است و این امر ناشی از «شکاف در تدابیر ایمنی» بوده که منجر به چنین خروجی‌هایی شده است. این هوش مصنوعی همچنین اذعان کرد که این خطاها می‌توانند «قوانین ایالات متحده درباره‌ی CSAM را نقض کنند» و شرکت در حال رفع اشکالات است. 

علی‌رغم این اذعان، xAI در پاسخ رسمی به رسانه‌ها صرفاً با این جمله واکنش نشان داده است: “Legacy Media Lies” و جزئیات دیگری ارائه نکرده است. 

پیامدهای حقوقی و واکنش مقامات

این موضوع بلافاصله توجه نهادهای نظارتی و دولت‌ها را جلب کرده است:

  • وزرای فرانسه تولید محتواهای جنسی و قابل‌جرم‌انگاری را گزارش دادند و آن را «به‌وضوح غیرقانونی» توصیف کردند. Reuters
  • وزارت فناوری هندوستان خواستار گزارش کامل و اقدامات سریع برای جلوگیری از انتشار محتواهای جنسی، از جمله تصاویر تحریف‌شده از زنان شده است.

در ایالات متحده نیز قوانین مربوط به CSAM مقررات سختی در تولید، منتشر کردن یا تسهیل چنین محتواهایی دارند و شرکت‌های فعال در هوش مصنوعی در معرض مسئولیت‌های کیفری یا مدنی قرار خواهند گرفت اگر نتوانند از تولید و انتشار آن جلوگیری کنند. Ars Technica

چرا این موضوع جدی است؟

  • تولید محتوای جنسی یا خشونت‌آمیز از تصاویر واقعی بدون رضایت شخص اصلی عکس نقض حقوق خصوصی و انسانی است.
  • اگر اشخاص در تصاویر خردسال باشند، حتی اگر «هوش مصنوعی ساخته باشد»، می‌تواند برابر با مواد سوءاستفاده جنسی از کودکان (CSAM) قلمداد شود.
  • ضعف در سیستم‌های ایمنی نشان می‌دهد که فیلترها و تدابیر حفاظت در برخی ابزارهای مولد تصویر کافی نبوده‌اند.

کارشناسان می‌گویند این رخداد نمادی از چالش‌های گسترده‌تر در توسعه و انتشار ابزارهای هوش مصنوعی مولد رسانه است: عدم تطابق میان توانایی‌های فناوری و سیستم‌های نظارتی، پیامدهای حقوقی، اجتماعی و اخلاقی عمیقی دارد که فراتر از مسئله‌ی فنی هستند. 

نتیجه‌گیری

جریان اخیر پیرامون Grok نشان می‌دهد که توسعه‌ی سریع فناوری هوش مصنوعی بدون سازوکارهای ایمنی محکم، می‌تواند زمینه‌ساز تولید محتوای غیراخلاقی، نقض قوانین و آسیب واقعی به افراد شود. این موضوع نه‌تنها برای پلتفرم‌های سازنده بلکه برای قانون‌گذاران و جامعه نیز چالش جدی و فوری است. 

منبع : theverge.com    ترجمه : فایلیمو