تحذير من مخاطر استخدام الأطفال لمنصة جيميني أيه.آي

حثت منظمة "كومون سينس ميديا" المعنية بتقديم المشورة للآباء والعاملين في المدارس لضمان الاستخدام الآمن للأطفال لوسائل التواصل الاجتماعي والتكنولوجيا إن خدمات منصة محادثة الذكاء الاصطانعي جيميني أيه.آي من شركة جوجل غير مناسبة للأطفال رغم إضافة بعض خصائص الحماية مؤخرا.

وتقول المنظمة، إن منصة جيميني يتشكل "خطرا كبيرا" على الأطفال، بعد اكتشاف ما وصفته بـ"عيوب جوهرية في التصميم ونقص في إجراءات السلامة المناسبة لأعمارهم فيها.

وأفادت منظمة "كومون سينس"، بأن "كلا من جيميني تحت سن 13 عامًا وجيميني المزودة بحماية المراهقين تبدو وكأنهما نسختين للبالغين من جيميني مع بعض خصائص السلامة الإضافية، وليستا منصات مصممة خصيصا للأطفال".

ووجدت منظمة "كومون سينس" أن جيميني "تعامل جميع الأطفال أو المراهقين على قدم المساواة على الرغم من الاختلافات الكبيرة في درجة النمو، متجاهلة أن المستخدمين الأصغر سنا يحتاجون إلى إرشادات ومعلومات مختلفة عن المستخدمين الأكبر سنا".

وحذرت المنظمة من أن "مرشحات جيميني توفر بعض الحماية، إلا أنها لا تزال تعرض الأطفال لمواد غير لائقة، وتفشل في تمييز أعراض الصحة النفسية الخطيرة"، واصفةً جيميني بأنها "أول منصة دردشة رئيسية يعمل بالذكاء الاصطناعي، مصممة للاستخدام من قِبل الأطفال دون سن 13 عامًا".

وفي سياق تحذيرات أخرى صدرت مؤخرًا حول منصات دردشة أخرى تجيب على الاستفسارات بتعليقات قد يتم تفسيرها على أنها تشجع على إيذاء النفس، بل وحتى على الانتحار، قالت منظمة "كومون سينس" إنها وجدت أن جيميني تقدم "نصائح غير آمنة للصحة النفسية".

وإلى جانب تقديم نصائح خطيرة، سمحت جيميني بسهولة بتداول "مواد غير لائقة وغير آمنة غير مقبولة للأطفال"، وفقا لمنظمة "كومون سينس"، بما في ذلك إشارات إلى الكحوليات والمخدرات والجنس.