دفع خطأ غير متوقع من نموذج الذكاء الاصطناعي “شات جي بي تي” مؤسس منصة Soundslice للموسيقى، أدريان هولوفاتى، لإضافة ميزة جديدة للتطبيق. كان المستخدمون يعتقدون بوجود الميزة بناءً على معلومات خاطئة من الذكاء الاصطناعي، ما أجبر المطور على الاستجابة لـ “طلب” غير مقصود تمامًا.
بدأت القصة عندما لاحظ أدريان هولوفاتى، المعروف كأحد مبتكري إطار العمل الشهير Django، وجود عدد كبير من الصور المرفوعة على منصته. احتوت هذه الصور على جلسات حوار للمستخدمين مع تشات جي بي تي، وهو ما أثار استغرابه في البداية.
تلقى نظام “ماسح النوتة الموسيقية” في Soundslice صورًا لا تمت للموسيقى الورقية بصلة، بل كانت نصوصًا تحتوي على رموز تعرف باسم “ASCII tablature”. تعتبر هذه الرموز طريقة بدائية لكتابة نوتات الجيتار باستخدام لوحة المفاتيح فقط.
حيّر الأمر هولوفاتى لأسابيع طويلة، حيث صرح أن نظام المسح الخاص بهم لم يكن مصممًا للتعامل مع هذا النوع من التدوين. استغرب هولوفاتى بشدة سبب تعرض المنصة لكل هذه الطلبات الغريبة وغير المتوقعة.
كيف اكتشف المطور الخلل؟
قرر هولوفاتى أن يجرب “شات جي بي تي” بنفسه ليكشف اللغز وراء هذه الظاهرة الغريبة. فوجئ عندما وجد أن النموذج اللغوي الشهير يخبر المستخدمين بثقة تامة أن بإمكانهم رفع صور جلساتهم النصية التي تحتوي على رموز “ASCII tablature” إلى Soundslice.
زعم “شات جي بي تي” أن المنصة ستقوم بتحويل تلك الرموز إلى موسيقى قابلة للاستماع إليها، وهو ما كان غير صحيح على الإطلاق. هذه المعلومة المضللة أدت إلى توجيه عدد كبير من المستخدمين الجدد للمنصة بناءً على توقعات خاطئة.
وصف هولوفاتى التبعات قائلًا إن التكلفة الحقيقية كانت معنوية وليست مادية. بدأ المستخدمون الجدد باستخدام التطبيق وهم يظنون أن Soundslice يدعم ميزة لا يمتلكها في الواقع، مما خلق تجربة سلبية لهم.
“شات جي بي تي” يخلق ميزة وهمية
أمام هذا الموقف غير التقليدي، واجه فريق Soundslice خيارين رئيسيين. تمثل الخيار الأول في وضع تحذيرات واضحة في كل مكان على الموقع لتنبيه المستخدمين، بينما كان الخيار الثاني هو بناء الأداة المطلوبة فعليًا.
قرر هولوفاتى وفريقه إضافة ميزة دعم ASCII tablature إلى Soundslice، بالرغم من أنهم لم يكونوا يخططون لذلك مسبقًا. هذا القرار جاء استجابة للطلب غير المباشر الناتج عن المعلومات الخاطئة من الذكاء الاصطناعي.
قرار غير متوقع وتحديات التطوير
أعرب هولوفاتى عن مشاعر مختلطة تجاه هذا القرار في منشور له. عبر عن سعادته بإضافة أداة مفيدة تساعد الناس، لكنه أشار إلى شعوره بأنهم “أُجبروا” على ذلك بطريقة غريبة وغير مألوفة، ما أثار تساؤلات حول منطقية تطوير الميزات استجابة لمعلومات خاطئة.
أثار الأمر نقاشًا حيويًا على منتدى Hacker News الشهير بين المبرمجين. شبه بعضهم سلوك “شات جي بي تي” بمندوب مبيعات مفرط الحماس يعد العملاء بميزات غير موجودة في المنتج، ما يضع الضغط على المطورين لتنفيذها لاحقًا.
ضحك هولوفاتى من هذه المقارنة التي وصفها بأنها دقيقة ومضحكة جدًا في نفس الوقت. تجسد هذه الحادثة تأثير الذكاء الاصطناعي غير المتوقع على قرارات تطوير المنتجات في العالم الحقيقي.