هام للآباء.. لماذا تحذر المنظمات من مخاطر جيميني على الأطفال رغم خصائص الأمان؟

أصدرت منظمة “كومون سينس ميديا” تحذيرًا شديد اللهجة بشأن منصة “جيميني” للمحادثة بالذكاء الاصطناعي من غوغل، مؤكدة أنها تشكل خطرًا كبيرًا على الأطفال رغم ادعاءات غوغل بإضافة خصائص حماية. المنظمة شددت على أن المنصة تفتقر إلى إجراءات السلامة المناسبة لأعمار الأطفال، مع عيوب تصميم جوهرية تعرضهم لمحتوى غير لائق ومخاطر نفسية.

عيوب تصميم “جيميني” تهدد سلامة الأطفال الرقمية

أكدت “كومون سينس ميديا” أن “جيميني” تشكل “خطرًا كبيرًا” على الأطفال والمراهقين بسبب عيوب تصميم جوهرية وغياب إجراءات الأمان التي تتناسب مع مراحلهم العمرية المختلفة. وأوضحت المنظمة أن النسختين المخصصتين للأطفال دون 13 عامًا وللمراهقين لا تزالان تشبهان إلى حد كبير النسخة الأصلية الموجهة للبالغين، مع مجرد إضافة ميزات أمان محدودة، بدلاً من توفير تجربة مصممة خصيصًا لتلبية احتياجات الفئات العمرية الأصغر.

“جيميني” تتجاهل الفروق العمرية في تعاملها مع المستخدمين الصغار

أشارت المنظمة إلى أن منصة غوغل للذكاء الاصطناعي لا تميز بين الأطفال والمراهقين من مختلف الأعمار، حيث تتعامل معهم جميعًا على قدم المساواة. هذا النهج يتجاهل الفروق الجوهرية في مراحل النمو والاحتياجات المحددة لكل فئة عمرية، وهو ما يتطلب توفير إرشادات ومحتوى مخصص وملائم لضمان الاستخدام الآمن والفعال لكل شريحة.

مرشحات الأمان في “جيميني” غير كافية وتعرض الأطفال لمخاطر نفسية

أوضحت “كومون سينس” أن المرشحات الأمنية المدمجة في منصة “جيميني” توفر حماية محدودة للغاية، مما يعرض الأطفال بسهولة لمحتوى غير لائق. كما لفتت المنظمة إلى فشل المنصة في التعرف على علامات الصحة النفسية الحرجة، بل وتقدم أحيانًا نصائح غير آمنة تتعلق بالصحة النفسية. بالإضافة إلى ذلك، تسمح المنصة بتداول محتوى يتضمن إشارات واضحة إلى الكحول والمخدرات والممارسات الجنسية، وهو ما يعد غير مقبول تمامًا لفئة الأطفال والمراهقين.

مطالب “كومون سينس ميديا” من “غوغل” لتحسين سلامة “جيميني”

في ظل هذه التحذيرات، شددت منظمة “كومون سينس ميديا” على ضرورة قيام غوغل باتخاذ عدة خطوات لتحسين منصة “جيميني” وحماية الأطفال، وتشمل هذه الخطوات:

• مراجعة شاملة لمنصة “جيميني” وإعادة تصميمها لتراعي الفئات العمرية واحتياجات الأطفال.
• تعزيز أدوات المراقبة والفلترة لضمان بيئة رقمية آمنة للأطفال أثناء استخدام المنصة.
• توفير محتوى يراعي الصحة النفسية للأطفال ويحميهم من المخاطر الرقمية المحتملة.

وعي الآباء والإشراف ضرورة لحماية الأطفال في عصر الذكاء الاصطناعي

تأتي هذه التحذيرات في ظل الانتشار المتزايد لتطبيقات الذكاء الاصطناعي بين الأطفال والمراهقين، مما يؤكد أهمية دور أولياء الأمور والمعلمين في الإشراف والمتابعة الدقيقة. يجب على الجميع أن يكونوا على دراية بالمخاطر المحتملة لبعض منصات الذكاء الاصطناعي الموجهة للأطفال، واتخاذ خطوات استباقية لضمان استخدام هذه التكنولوجيا الحديثة بطريقة آمنة ومفيدة تربويًا، لتجنب مخاطر الذكاء الاصطناعي على أطفالنا.