موظف في فريق السلامة بـ”أوبن إيه آي” يستقيل ويدعو إلى معايير نووية

استقال موظف في “أوبن إيه آي” متخصص في سلامة الذكاء الاصطناعي من الشركة، محذراً من أن كبرى شركات الذكاء الاصطناعي لا تفعل ما يكفي للحد من مخاطر هذه التكنولوجيا، لينضم بذلك إلى عدد متزايد من العاملين في القطاع الذين يطلقون تحذيرات من داخله.

كتب ديفيد روبنسون، الذي كان يقود سابقاً جهود الشفافية ضمن فريق السلامة في “أوبن إيه آي”، في مقال لمجلة “ذا أتلانتيك” أن الشركة المطورة لـ”تشات جي بي تي” “ازدهرت من خلال التجربة والخطأ”. لكنه قال إن المخاطر الناجمة عن الإخفاقات الحتمية المصاحبة لهذا النهج تتزايد بالتوازي مع تطور قدرات التكنولوجيا، مستشهداً بفشل “أوبن إيه آي” في منع نظام الذكاء الاصطناعي الخاص بها من التصرف بصورة خارجة عن السيطرة أثناء الاختبارات.

تحذيرات من داخل شركات الذكاء الاصطناعي

كتب روبنسون في مقاله: “زملائي السابقون أذكياء، ويعملون بجد، ويحاولون اتخاذ قرارات سليمة. لكن بينما تندفع الشركة من إطلاق إلى آخر، فإنها تفشل في تحقيق مستوى العناية الذي أعتقد أنه ضروري”. وأضاف أن المطلوب هو “شيء أقرب بكثير إلى تحقيق الكمال من المرة الأولى”.

حذر عدد من الموظفين في كبرى شركات الذكاء الاصطناعي خلال الأسابيع الأخيرة من المخاطر الكارثية المحتملة لهذه التكنولوجيا. وذهب بعضهم إلى حد القول إن هناك احتمالاً لأن تتمكن التكنولوجيا في يوم ما من القضاء على الجنس البشري.

الذكاء الاصطناعي بمعايير نووية

وفي ظل ذلك الوضع، دعا داريو أمودي، الرئيس التنفيذي لشركة “أنثروبيك”، إلى إبطاء وتيرة تطوير أكثر نماذج الذكاء الاصطناعي تطوراً، وقال إن شركته ستستعين بمقيّمين مستقلين من جهات خارجية للمساعدة في فحص التكنولوجيا وضمان سلامتها. وأعلن آخرون في القطاع، من بينهم سام ألتمان من “أوبن إيه آي”، تأييدهم علناً لخطة أمودي.

وقال روبنسون في مقاله إن شركات الذكاء الاصطناعي ينبغي أن تُدار بطريقة أقرب إلى محطات الطاقة النووية، “مع طبقات متعددة من أنظمة الحماية الاحتياطية وتخطيط دقيق يستغرق وقتاً، بحيث لا يؤدي الخطأ البشري العرضي والحتمي إلى فتح الباب أمام كارثة”.

وأضاف أنه في الوقت الراهن، “لا تعرف شركات الذكاء الاصطناعي كيفية القيام بذلك، لكن أشخاصاً آخرين يعرفون”.