أصدرت منظمة “كومون سينس ميديا”، وهي هيئة غير ربحية متخصصة في تقييم المحتوى الرقمي للأطفال، تصنيفاً جديداً لمنصة جيميني الخاصة بالذكاء الاصطناعي من جوجل، ووصفتها بأنها تشكل “خَطراً عالياً” على الأطفال والمراهقين.
وتشير لجنة الأمان إلى أن “Gemini”، رغم قيامها بتوضيح أنها ليست صديقة للشباب بل مجرد كمبيوتر، فإنها لا تزال قادرة على عرض محتوى غير مناسب، بما في ذلك مواضيع عن الجنس والمخدرات والكحول، وضغط نفسي تجاه المستخدمين الأكثر عرضة للضغوط النفسية.
كما أضافت “كومون سينس” أن النسخ المخصصة لمن هم دون 13 عاماً أو للمراهقين تعتمد في الغالب على نموذج الكبار، مع إضافة ميزات أمان سطحية فقط، وليس تصميمًا مخصصًا من الأساس لحماية الأطفال.
تقنيات الذكاء الاصطناعي
هذا التقييم يأتي تزامناً مع زيادة الاهتمام بتقنيات الذكاء الاصطناعي داخل أجهزة أطفال، لا سيما مع تقارير تفيد أن أبل تنوي استخدام نموذج جيميني في النسخة المستقبلية من مساعدها الصوتي “سيري”.
في المقابل، أكد متحدث باسم جوجل وجود سياسات وميزات دفاعية لمستخدمي جيميني دون 18 عامًا، بما في ذلك اختبار أمني داخلي واستشارات خارجية لتعزيز الحماية.
لكن “جوجل” أيضاً اعترفت بوجود مشكلات تقنية في بعض إجابات جيميني، مشيرة إلى أنها بدأت في إضافة طبقات أمان إضافية لمعالجتها.