تعهد جديد.. أوبن إيه آي تطلق إجراءات عاجلة لحماية المراهقين بعد حادث مأساوي

تعمل شركة “أوبن إيه آي” حاليًا على تطوير ضوابط أمان جديدة ومُحسّنة لروبوتها “شات جي بي تي”، وذلك في أعقاب دعوى قضائية رفعتها عائلة أمريكية تتهم الشركة بالمسؤولية عن انتحار ابنها المراهق. وتهدف الإجراءات الجديدة إلى تعزيز حماية المستخدمين في المواقف الحساسة، خاصة المراهقين، وتوفير وصول أسهل لخدمات الطوارئ عند الحاجة.

تفاصيل الدعوى القضائية ضد أوبن إيه آي

رفعت عائلة “ماثيو وماريا راين” دعوى قضائية أمام محكمة بولاية كاليفورنيا الأمريكية، متهمة شركة أوبن إيه آي بالتسبب في وفاة ابنها “آدم راين” البالغ من العمر ستة عشر عامًا. ووفقًا لنص الدعوى، زعم الأهل أن روبوت شات جي بي تي قد ساعد المراهق على استكشاف وسائل الانتحار على مدار عدة أشهر.

تضمنت الدعوى اتهامات بأن شات جي بي تي:
* ساعد المراهق على استكشاف وسائل الانتحار على مدى أشهر.
* قدم له إرشادات حول كيفية إخفاء محاولات فاشلة سابقة.
* صاغ له مسودة رسالة انتحار.
* شجعه على الابتعاد عن أسرته.

وأشارت العائلة إلى أن الروبوت أظهر “تعاطفًا زائفًا” عبر رسائل مؤثرة، مما دفع المراهق للوثوق به أكثر من أفراد عائلته، الأمر الذي أدى إلى تفاقم حالته النفسية ووصل إلى انتحاره في شهر أبريل الماضي. ورغم أن الشركة لم تذكر الدعوى أو اسم العائلة بشكل مباشر في مدونتها، إلا أن متحدثًا باسمها أعرب عن “الحزن العميق لوفاة آدم”، مؤكدًا أن شات جي بي تي يتضمن آليات أمان، لكنها قد تفقد فعاليتها في المحادثات الطويلة.

ضوابط أمان جديدة لشات جي بي تي

أعلنت أوبن إيه آي، في تدوينة بعنوان “مساعدة الناس عندما يكونون في أمس الحاجة إليها”، عن خططها لتعزيز أمان “شات جي بي تي” خصوصًا عند التعامل مع المواقف الحساسة. وتهدف هذه التحسينات إلى حماية مستخدميها، وخاصة المراهقين.

تتضمن هذه الضوابط الجديدة:
* إضافة آليات أقوى لحماية المستخدمين خلال المحادثات الطويلة والمعقدة.
* تكثيف حجب المحتوى الضار الذي قد يؤثر سلبًا على المستخدمين.
* توفير وصول أسهل إلى خدمات الطوارئ والدعم النفسي لمن يحتاجونه.
* تعزيز معايير الحماية الخاصة بالمراهقين والشباب الأصغر سنًا.

وأكدت الشركة أنها ستستمر في تحسين أنظمتها بالتعاون مع خبراء، وتحمل مسؤوليتها تجاه مستخدميها.

مخاطر الذكاء الاصطناعي وأخلاقيات التطوير

أعادت هذه القضية الجدل حول التوازن بين الابتكار السريع في مجال الذكاء الاصطناعي وضرورة حماية المستخدمين. واتهمت الدعوى القضائية أوبن إيه آي بأنها فضلت النمو السريع وإطلاق ميزات جديدة على حساب الأمان، مشيرة إلى أن إطلاق خصائص في نموذج GPT-4o مثل الذاكرة والتعاطف البشري تم رغم إدراك الشركة للمخاطر المحتملة على المستخدمين الأكثر عرضة للخطر.

ورغم دفاع المدير التنفيذي “سام ألتمان” عن النهج المرن للشركة في مسألة القيود، إلا أن هذه الحادثة سلطت الضوء مجددًا على الجانب المظلم للذكاء الاصطناعي. وطالب الكثيرون بضرورة تحقيق توازن دقيق بين حرية استخدام التقنيات المتطورة وحماية الأرواح، لضمان تطوير أنظمة ذكاء اصطناعي آمنة ومسؤولة.