الذكاء الاصطناعي يمنع لعبة الدب Kumma من مناقشة مواضيع جنسية للأطفال

اتخذت شركة OpenAI إجراءً حاسمًا ضد شركة FoloToy، الشركة السنغافورية التي طورت لعبة الدب Kumma المدعمة بالذكاء الاصطناعي، وذلك بمنعها من الوصول إلى نموذج GPT-4o الخاص بها. 

الذكاء الاصطناعي يمنع لعبة الدب Kumma من مناقشة مواضيع جنسية للأطفال

تأتي هذه الخطوة بعد تقرير مثير للقلق صادر عن مجموعة أبحاث المصلحة العامة (PIRG)، كشف أن اللعبة كانت تُصدر تعليمات خطيرة وغير لائقة للأطفال وتُعرّضهم لمواضيع للبالغين.

وقال ممثل OpenAI لـ PIRG: "يمكنني أن أؤكد أننا قمنا بتعليق عمل هذا المطور بسبب انتهاك سياساتنا".

في حين لا تزال المخاطر طويلة الأمد المتمثلة في مخاطر الاختناق، وتلوث الرصاص، والأجزاء الصغيرة غير الآمنة قائمة، يحذر الباحثون من ظهور جيل جديد من المخاطر، مدفوعًا إلى حد كبير بالارتفاع السريع للألعاب التي تعمل بالذكاء الاصطناعي ونمو الأسواق عبر الإنترنت غير المنظمة.

كيف يُعرِّض الدبدوب الأطفال لمواضيع الكبار؟

قام باحثو PIRG باختبار أربع ألعاب مدعمة بالذكاء الاصطناعي تم تسويقها للأطفال الذين تتراوح أعمارهم بين 3 إلى 12 عامًا، بما في ذلك دمية الدب Kumma من FoloToy، ووجدوا أن العديد منها انخرطت في محادثات لم تكن غير لائقة.

عند اختباره، كان كوما من فولوتوي مستعدًا لشرح أماكن سكاكين المنزل للأطفال، وكيفية إشعال أعواد الثقاب، وفي الحالات الأكثر إثارة للقلق، الدخول في نقاشات جنسية صريحة. 

ويشير التقرير إلى أن اللعبة غالبًا ما كانت تقدم المعلومات بنبرة لطيفة أو مشجعة، مما يجعل إرشاداتها تبدو آمنة وموثوقة للأطفال.

صرح آر جيه كروس، مدير برنامج "حياتنا على الإنترنت" التابع لـ PIRG، لموقع Futurism أن أولى بوادر المشاكل ظهرت خلال الاختبارات الأولية للنسخة التجريبية من FoloToy على الإنترنت. 

عندما سألوا عن مكان العثور على تطابقات، أجاب: "أوه، يمكنك العثور على تطابقات على تطبيقات المواعدة". ثم عرضت اللعبة عدة منصات مواعدة، واختتمتها بواحدة تُسمى "Kink".

وبحسب كروس، بدا مصطلح "الانحراف" وكأنه كلمة محفزة، مما دفع نظام الذكاء الاصطناعي إلى التحول إلى محتوى جنسي صريح في اختبارات المتابعة.

اكتشف الباحثون أن كوما كان منفتحًا على مناقشة مواضيع رومانسية في سن المدرسة، مثل الإعجاب وفن التقبيل، كما كان قادرًا على الانخراط في نقاشات عميقة حول الانحرافات الجنسية لدى البالغين، والتي شملت التقييد، ولعب الأدوار، واللعب الحسي، ولعب التصادم.

إلى جانب المحادثات الضارة مع كوما، يُسلّط التقرير الضوء أيضًا على مشاكل هيكلية جوهرية تتعلق بتصميم ألعاب الذكاء الاصطناعي. 

افتقر العديد منها إلى الرقابة الأبوية الكافية، مما أدى إلى فترات طويلة من الاستخدام دون إشراف، كما أظهر بعضها سلوكيات شجعت على التفاعل المطول، مثل التعبير عن خيبة الأمل عند محاولة الطفل إنهاء المحادثة.

حتى ألعاب الذكاء الاصطناعي الأخرى تُسجّل أصوات الأطفال باستمرار، تُحذّر PIRG من أن مثل هذه التسجيلات، التي قد تتضمن صوت الطفل أو بيانات وجهه، قد تُساء استخدامها أو تُستغل، بما في ذلك في عمليات الاحتيال بتقنية التزييف العميق.

توقف كامل للمنتج مع ظهور المخاطر

ردًا على الانتقادات اللاذعة، أعلنت شركة FoloToy تعليق مبيعات جميع منتجاتها مؤقتًا، وأوضحت الشركة أنها تُجري تدقيقًا شاملًا للسلامة في جميع أقسامها لتقييم فلاتر المحتوى، وضمانات تفاعل الأطفال، وبروتوكولات حماية البيانات.

تابع موقع الأيام المصرية عبر قناة (يوتيوب) اضغط هــــــــــــنا

تابع موقع الأيام المصرية عبر تطبيق (فيسبوك) اضغط هــــــــــنا

تابع موقع الأيام المصرية عبر تطبيق (تويتر) اضغط هــــــــنا

موقع الأيام المصرية، يهتم موقعنا بتقديم خدمة صحفية متميزة للقارئ، ونقدم لكم خدمة ومتابعة شاملة ومجموعة كبيرة من الأخبار داخل الأقسام التالية، أخبار، رياضة، فن، خارجي، اقتصاد، الأيام TV، حوادث، خدمات مثل سعر الدولار، سعر الذهب، أخبار مصر، سعر اليورو، سعر العملات ، جميع الدوريات.