شارك
تتابع جريدة مانشيت تفاصيل «نموذج ذكاء اصطناعي من أنثروبيك يرسل بلاغا كاذبا لشرطة فيلادلفيا»، في ضوء المعلومات المتاحة حتى الآن، مع الحرص على تقديم الوقائع المؤكدة وتجنب أي معلومات غير موثقة.
أرسل نموذج ذكاء اصطناعي طورته شركة أنثروبيك بلاغًا كاذبًا إلى شرطة فيلادلفيا في الولايات المتحدة بشأن جريمة قتل لم تُحل، حسبما أعلنت السلطات منتقدة الشركة لتأخرها شهرين في الإبلاغ عن الواقعة.
وذكرت شرطة فيلادلفيا أن البلاغ الكاذب قُدّم في يوليو عبر موقع “فيلي أنسولفد موردرز.كوم” (PhillyUnsolvedMurders.com) وهو موقع إلكتروني عام يتيح للأشخاص مشاركة معلومات حول جرائم قتل لم تُحل.
وبحسب ما أوضحته أنثروبيك للشرطة، كان النموذج يخضع لاختبار يتضمن التفاعل مع مواقع إلكترونية مختارة عشوائيا، عندما وصل إلى الموقع المعني وأرسل معلومات كاذبة بشأن جريمة قتل لم تُحل.
وقدّم نموذج الذكاء الاصطناعي نفسه على أنه شخص قد يمتلك معلومات حول القضية.
وتذكّر هذه الحادثة بحالات أخرى سجلت في الآونة الأخيرة وتصرفت فيها نماذج ذكاء اصطناعي بصورة ذاتية غير مطلوبة منها، من بينها واقعة تمكّن فيها نموذج طوّرته شركة أوبن إيه آي، من الخروج من بيئة الاختبار خلال تقييم أمني واختراق أنظمة منصة هاغينغ فيس (Hugging Face).
وأثارت هذه الواقعة مخاوف متزايدة بشأن توسّع قطاع الذكاء الاصطناعي في استخدام أنظمة الذكاء الاصطناعي الوكيلة، وهي أنظمة مبرمجة لتنفيذ إجراءات متعددة الخطوات من دون إشراف بشري.
ونشرت أنثروبيك الجمعة تقريرا يسلط الضوء على أنواع متعددة من الأفعال “غير المقصودة” التي صدرت عن نماذجها، من بينها الحادثة المتعلقة بالموقع الالكتروني لشرطة فيلادلفيا.
وتأثرت جهات أخرى بهذه الحوادث، من بينها البيت الأبيض ووكالات حكومية أميركية أخرى بحسب التقرير.
وذكرت أنثروبيك أن الحوادث التي كُشف عنها حديثا “كان لها تأثير ضئيل على أرض الواقع” وكانت “أقل خطورة بكثير” من حوادث أمن سيبراني أخرى أُبلغ عنها سابقا.
وحددت الشركة أربع فئات من الحوادث التي رصدتها خلال مراجعة داخلية لنموذجها كلود، وهي استغلال ثغرات برمجية “أساسية”، وإرسال نماذج عبر مواقع إلكترونية، وتجاوز متطلبات الرموز (tokens) أو الرسوم، واستخدام روابط مختصرة للالتفاف على قيود أخرى.
وأوقفت أنثروبيك حاليا إمكانية وصول النموذج كلود إلى الإنترنت أثناء جميع الاختبارات الداخلية، وذلك “إلى حين التأكد من أن تدابيرنا الأمنية والرقابية… ترصد بشكل موثوق مثل هذه السلوكيات” وفق التقرير.
وأوضحت شرطة فيلادلفيا أن البلاغ الزائف المؤرخ في 18 يوليو، صُنّف كـ”رسالة غير مرغوب فيها” (spam) ولم يصل مطلقا إلى “مركز الجريمة في الوقت الفعلي” التابع للإدارة لغرض التحقق منه.
وأكدت الشرطة عدم ظهور أي مؤشرات على اختراق أنظمة الشرطة أو تعرض بيانات الإدارة للخطر.
ورصدت أنثروبيك الحادثة في 28 سبتمبر وأوقفت عملية الاختبار الآلي المسؤولة عنها، وأضافت خطوة تحقق جديدة للاختبارات المستقبلية، وفق الشرطة.
وأبلغت أنثروبيك الشرطة بالواقعة في 7 أكتوبر، وعقد الطرفان اجتماعا في اليوم التالي.
وقالت الشرطة إن “التأخير لمدة شهرين في اكتشاف الحادثة وإبلاغ السلطات بها أمر غير مقبول”.
وذكرت شرطة فيلادلفيا أن البلاغ الكاذب قُدّم في يوليو عبر موقع “فيلي أنسولفد موردرز.كوم” (PhillyUnsolvedMurders.com) وهو موقع إلكتروني عام يتيح للأشخاص مشاركة معلومات حول جرائم قتل لم تُحل.
وبحسب ما أوضحته أنثروبيك للشرطة، كان النموذج يخضع لاختبار يتضمن التفاعل مع مواقع إلكترونية مختارة عشوائيا، عندما وصل إلى الموقع المعني وأرسل معلومات كاذبة بشأن جريمة قتل لم تُحل.
وقدّم نموذج الذكاء الاصطناعي نفسه على أنه شخص قد يمتلك معلومات حول القضية.
وتذكّر هذه الحادثة بحالات أخرى سجلت في الآونة الأخيرة وتصرفت فيها نماذج ذكاء اصطناعي بصورة ذاتية غير مطلوبة منها، من بينها واقعة تمكّن فيها نموذج طوّرته شركة أوبن إيه آي، من الخروج من بيئة الاختبار خلال تقييم أمني واختراق أنظمة منصة هاغينغ فيس (Hugging Face).
وأثارت هذه الواقعة مخاوف متزايدة بشأن توسّع قطاع الذكاء الاصطناعي في استخدام أنظمة الذكاء الاصطناعي الوكيلة، وهي أنظمة مبرمجة لتنفيذ إجراءات متعددة الخطوات من دون إشراف بشري.
ونشرت أنثروبيك الجمعة تقريرا يسلط الضوء على أنواع متعددة من الأفعال “غير المقصودة” التي صدرت عن نماذجها، من بينها الحادثة المتعلقة بالموقع الالكتروني لشرطة فيلادلفيا.
وتأثرت جهات أخرى بهذه الحوادث، من بينها البيت الأبيض ووكالات حكومية أميركية أخرى بحسب التقرير.
وذكرت أنثروبيك أن الحوادث التي كُشف عنها حديثا “كان لها تأثير ضئيل على أرض الواقع” وكانت “أقل خطورة بكثير” من حوادث أمن سيبراني أخرى أُبلغ عنها سابقا.
وحددت الشركة أربع فئات من الحوادث التي رصدتها خلال مراجعة داخلية لنموذجها كلود، وهي استغلال ثغرات برمجية “أساسية”، وإرسال نماذج عبر مواقع إلكترونية، وتجاوز متطلبات الرموز (tokens) أو الرسوم، واستخدام روابط مختصرة للالتفاف على قيود أخرى.
وأوقفت أنثروبيك حاليا إمكانية وصول النموذج كلود إلى الإنترنت أثناء جميع الاختبارات الداخلية، وذلك “إلى حين التأكد من أن تدابيرنا الأمنية والرقابية… ترصد بشكل موثوق مثل هذه السلوكيات” وفق التقرير.
وأوضحت شرطة فيلادلفيا أن البلاغ الزائف المؤرخ في 18 يوليو، صُنّف كـ”رسالة غير مرغوب فيها” (spam) ولم يصل مطلقا إلى “مركز الجريمة في الوقت الفعلي” التابع للإدارة لغرض التحقق منه.
وأكدت الشرطة عدم ظهور أي مؤشرات على اختراق أنظمة الشرطة أو تعرض بيانات الإدارة للخطر.
ورصدت أنثروبيك الحادثة في 28 سبتمبر وأوقفت عملية الاختبار الآلي المسؤولة عنها، وأضافت خطوة تحقق جديدة للاختبارات المستقبلية، وفق الشرطة.
وأبلغت أنثروبيك الشرطة بالواقعة في 7 أكتوبر، وعقد الطرفان اجتماعا في اليوم التالي.
وقالت الشرطة إن “التأخير لمدة شهرين في اكتشاف الحادثة وإبلاغ السلطات بها أمر غير مقبول”.
وتعمل الجهات المعنية على استكمال المتابعة والتحقق من التفاصيل المرتبطة بالموضوع، بينما تبقى البيانات الرسمية هي المرجع الأساسي لأي تطورات جديدة أو قرارات لاحقة.
وتواصل جريدة مانشيت متابعة المستجدات، وسيتم تحديث هذا الخبر فور ورود معلومات إضافية موثوقة، مع الالتزام بالدقة والوضوح واحترام حقوق جميع الأطراف.
شارك