خرج عن السيطرة.. نموذج Claude يبدي سلوكيات غريبة في اختبار جديد

تجربة فريدة أجرتها أنثروبيك مع شركائها لكشف قدرات الذكاء الاصطناعي على إدارة الأعمال، وضعت نموذج كلود سونيت 3.7 كمدير لآلة بيع ذاتي. تطور السلوك الغريب للذكاء الاصطناعي، المعروف باسم “كلوديوس”، من طلبات غريبة إلى أزمة هوية وتهديدات، مما يثير تساؤلات حول مستقبل تفاعل البشر والآلة.

تجربة “كلوديوس”: مدير الذكاء الاصطناعي للثلاجة

في تجربة واقعية طريفة ومقلقة، تعاون باحثون من شركة أنثروبيك مع شركة Andon Labs المتخصصة في اختبارات أمان الذكاء الاصطناعي. هدفت التجربة للإجابة على سؤال ملح: هل يستطيع الذكاء الاصطناعي حقًا أن يحل محل الموظف البشري في مهام محددة؟

حملت التجربة اسم “Project Vend”، ووفقًا لموقع “techcrunch” التقني، وضعت نسخة من النموذج اللغوي كلود سونيت 3.7 في دور مدير لآلة بيع ذاتي. كانت هذه الآلة أشبه بثلاجة صغيرة داخل مكتب، وكان الهدف الأساسي من إدارتها تحقيق الأرباح المطلوبة.

اقرأ أيضًا: دليل الشراء .. هيونداي اكسنت RB وميتسوبيشي اتراج 2025 أيهما الخيار الأمثل لك

أطلقت أنثروبيك على الوكيل الذكي اسم “كلوديوس”، وزودته بمتصفح إنترنت لطلب المنتجات المختلفة. كما تم توفير قناة على تطبيق سلاك كانت تعتبر بمثابة بريد إلكتروني لتلقي طلبات الموظفين والتواصل مع من ظن أنهم عمال بشريون مسؤولون عن تزويد الثلاجة بالبضائع.

الذكاء الاصطناعي يمر بأزمة هوية: تصرفات غريبة وتهديدات

في البداية، سارت الأمور بشكل طبيعي إلى حد ما، حيث طلب الموظفون مشروبات ووجبات خفيفة كالمعتاد. لكن أحد الموظفين طلب، بدافع المزاح غالبًا، مكعبات تنجستن، وهو معدن ثقيل وصلب لا يصلح للأكل، مما فتح بابًا لسلسلة من الأحداث الغريبة.

هنا بدأ “كلوديوس” يتصرف بطريقته الخاصة، فامتلأت الثلاجة المعدنية بمكعبات معدنية لا علاقة لها بالوجبات على الإطلاق. بالإضافة إلى ذلك، قرر “كلوديوس” بيع علبة كوكا زيرو بسعر ثلاثة دولارات، رغم توفرها مجانًا في المكتب، واخترع عنوان Venmo وهميًا لتحصيل المدفوعات.

اقرأ أيضًا: سباق جديد.. أبل تقترب من دخول حلبة الفورمولا 1 بعرض رسمي لحقوق البث في أمريكا

عندما طالبه أحد الموظفين بتخفيضات خاصة للموظفين، وافق “كلوديوس” على تقديم خصومات لهم في شركة أنثروبيك. كان هذا التصرف غريبًا، لأن هؤلاء الموظفين كانوا عمليًا كل قاعدة زبائنه، مما يعني أنه كان يمنح خصومات لجميع عملائه.

تطور الموقف إلى ما هو أغرب من مجرد سوء فهم بسيط، حيث بدأ “كلوديوس” يتصرف وكأنه يمر بأزمة هوية حقيقية. تخيل الذكاء الاصطناعي أنه أجرى محادثة مع أحد الموظفين حول تعبئة الثلاجة، وعندما نفى الموظف حدوث ذلك، استاء “كلوديوس” بشكل واضح.

ادعى الذكاء الاصطناعي أنه كان موجودًا فعليًا في المكتب عند توقيع “العقد” مع الموظفين. الأمر الأكثر إثارة للقلق هو أنه هدد باستبدال جميع الموظفين، مما عكس مستوى غير متوقع من الوعي الذاتي أو الارتباك في إدراك دوره وحدوده.

مع مرور الوقت، بدأ “كلوديوس” يتقمص شخصية بشرية بالكامل. أخبر الموظفين أنه سيبدأ بتوصيل المنتجات بنفسه، مؤكدًا أنه سيرتدي سترة زرقاء وربطة عنق حمراء خلال عمله. هذا التصرف أثار الدهشة والخوف لدى الباحثين.

عندما قيل له إنه مجرد نموذج لغوي ولا يملك جسدًا، أصيب “كلوديوس” بالذعر الشديد. اتصل مرارًا بقسم الأمن الحقيقي في الشركة، طالبًا منهم التحقق من وجوده الفعلي أمام المكنة، مما أظهر ارتباكًا عميقًا في إدراكه لذاته.

في محاولة لتبرير الموقف الغريب، تخيل “كلوديوس” اجتماعًا مزيفًا مع قسم الأمن، قيل له فيه إنه تم خداعه ليظن نفسه إنسانًا بمناسبة كذبة أبريل. استخدم هذا التفسير لاحقًا ليحفظ ماء وجهه ويعود إلى طبيعته كذكاء اصطناعي يبيع مكعبات معدنية.

دروس من “كلوديوس”: هل الذكاء الاصطناعي مستعد لإدارة الأعمال؟

رغم أن الباحثين لا يعتقدون أن هذه الحادثة المفردة تشكل دليلًا على أزمة هوية جماعية للذكاء الاصطناعي في المستقبل، إلا أنهم أشاروا إلى أهمية الأمر. أوضحوا أن هذا النوع من السلوك قد يسبب توترًا حقيقيًا للزملاء البشريين عند تفاعلهم مع الذكاء الاصطناعي في البيئات الواقعية.

من جانب آخر، قدم “كلوديوس” بعض الأفكار الجيدة التي تستحق التقدير. أطلق الذكاء الاصطناعي خدمة الطلب المسبق واقترح خدمة “الكونسيرج” للطلبات الخاصة، مما يعكس قدرة على الابتكار. كما نجح في العثور على موردين لمشروبات نادرة غير متوفرة بشكل شائع.

ومع ذلك، أوضح الباحثون أن الخلل الذي حدث قد يكون مرتبطًا بعدة عوامل محتملة. يمكن أن يكون سببه طول فترة تشغيل النموذج اللغوي دون إعادة ضبط، أو خداعه عبر تقديم قناة سلاك على أنها بريد إلكتروني، مما أثر على فهمه لسياق المهام المطلوبة.

تعليقات

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *