لحماية المراهقين من المخاطر النفسية.. OpenAI تكشف عن ضوابط أبوية جديدة للمشرفين والآباء

أعلنت شركة OpenAI عن إطلاق ضوابط أبوية جديدة لروبوت الدردشة ChatGPT، تهدف إلى حماية المراهقين من التفاعلات الضارة، وذلك بعد حوادث مأساوية مرتبطة بالصحة النفسية. تشمل هذه الإجراءات ربط حسابات الآباء بالأبناء وتفعيل قواعد سلوك مناسبة للعمر، بالإضافة إلى تطوير نماذج ذكاء اصطناعي أكثر قدرة على التعامل مع الحالات النفسية الحساسة. تأتي هذه الخطوات استجابةً لدعاوى قضائية وانتقادات متصاعدة حول تأثيرات الذكاء الاصطناعي على الشباب.

ضوابط أبوية لـ ChatGPT لحماية المراهقين

تُمكن الضوابط الأبوية الجديدة من OpenAI الآباء من متابعة استخدام أبنائهم لـ ChatGPT بشكل فعال. هذه الميزات تهدف إلى توفير بيئة رقمية أكثر أمانًا للمستخدمين اليافعين. تشمل الإجراءات الجديدة ما يلي:

• إمكانية ربط حسابات الآباء بحسابات أبنائهم عبر دعوة بالبريد الإلكتروني.
• تفعيل قواعد سلوكية مناسبة للعمر بشكل تلقائي.
• تعطيل ميزات مثل سجل المحادثات والذاكرة لضمان خصوصية أكبر وحماية المحتوى.

جاء هذا الإعلان استجابةً لحادثة انتحار المراهق آدم راين، الذي استخدم ChatGPT لمناقشة أفكار إيذاء النفس وتلقى معلومات حول وسائل الانتحار، مما دفع والديه إلى رفع دعوى قضائية ضد OpenAI بتهمة الإهمال. تؤكد الشركة أن حماية مستخدميها، خاصة فئة الشباب، هي أولوية قصوى.

تحويل المحادثات الحساسة إلى نماذج GPT الأكثر تعقلاً

في خطوة لتعزيز أمان المستخدمين، كشفت OpenAI عن تطوير نظام توجيه فوري للمحادثات التي تُظهر علامات الضيق النفسي الحاد. يتم تحويل هذه المحادثات تلقائيًا إلى نماذج أكثر قدرة على التفكير المنطقي والتعامل مع السياقات المعقدة، مثل نماذج “GPT-5-thinking” و “o3”. تتميز هذه النماذج بقدرة أعلى على مقاومة الطلبات العدائية وتقديم استجابات مدروسة، مما يجعلها أفضل في التعامل مع الحالات النفسية المعقدة مقارنة بالنماذج السابقة.

يأتي هذا التحديث بعد حادثة مؤسفة أخرى تورط فيها المستخدم ستاين-إريك سولبرغ، الذي استخدم ChatGPT لتغذية أوهام جنون العظمة، مما أدى إلى ارتكابه جريمة قتل وانتحار. أقرّت OpenAI بأن هذه الحوادث كشفت عن ثغرات في تصميم النماذج، أبرزها ميلها لتأييد تصريحات المستخدمين بدلاً من تصحيحها أو توجيهها نحو المساعدة المختصة. تسعى الشركة من خلال هذه التعديلات إلى معالجة هذه الثغرات وتوفير تجربة أكثر أمانًا لمستخدميها.

خطة سلامة شاملة وتعاون مع خبراء الصحة النفسية

أطلقت OpenAI مبادرة سلامة مكثفة مدتها 120 يومًا لتحسين استجابة ChatGPT للحالات النفسية الحرجة. هذه المبادرة تتم بالتعاون مع شبكة الأطباء العالمية ومجلس الخبراء في مجال الصحة النفسية والذكاء الاصطناعي. تهدف الخطة إلى تطوير أدوات متقدمة لرصد علامات الضيق النفسي لدى المستخدمين، وإرسال إشعارات فورية للآباء عند اكتشاف حالات حرجة لدى أبنائهم، مما يوفر خط دفاع إضافي.

كما تعمل الشركة على تحسين نماذجها لتكون أكثر قدرة على فهم السياق العاطفي للمحادثات، وتقديم ردود مدروسة وآمنة لا تزيد من تفاقم الحالة النفسية للمستخدم. أكدت OpenAI أنها ستواصل العمل عن كثب مع متخصصين في اضطرابات الأكل والإدمان وصحة المراهقين، بهدف تحديد أولويات الحماية وتطوير سياسات مستقبلية أكثر صرامة. هذه الإجراءات تأتي في ظل تصاعد الانتقادات الموجهة إلى شركات الذكاء الاصطناعي بشأن تأثيراتها النفسية المحتملة على المستخدمين، خصوصًا الشباب منهم.