تفاصيل سحب شركة FoloToy ألعابها من الأسواق حفاظا على الأطفال
سحبت شركة FoloToy لتصنيع ألعاب الأطفال دبدوبها المحشو بالذكاء الاصطناعي "Kumma" بعد أن كشفت مجموعة سلامة كبيرة أن اللعبة المحشوة أعطت ردود فعل غير لائقة وخطيرة في بعض الأحيان للمستخدمين الصغار.
تفاصيل سحب شركة FoloToy ألعابها من الأسواق حفاظا على الأطفال
وتأتي هذه النتائج قبل أسابيع قليلة من موسم العطلات، مما يثير المخاوف بشأن إمكانية دخول الألعاب التي تدعمها الذكاء الاصطناعي إلى المنازل التي لا تحتوي على سوى حواجز أمان قليلة.
أظهرت اختباراتهم أن العديد من ألعاب الذكاء الاصطناعي ناقشت مواضيع للبالغين أو قدمت تعليمات خطيرة. لكن لعبة "كوما" برزت كأشد الحالات تطرفًا، مما دفع صانعها إلى اتخاذ إجراء سريع.
أكدت شركة فولوتوي تعليق مبيعات كوما ريثما تُجري تحقيقًا حول الأعطال، وصرح مدير التسويق هوجو وو لصحيفة ذا ريجستر: "قررت فولوتوي تعليق مبيعات المنتج المتأثر مؤقتًا وبدء تدقيق داخلي شامل للسلامة".
وأضاف أن شركة FoloToy ستعمل مع خبراء خارجيين للتحقق من الحماية الجديدة والحالية.
قام فريق PIRG باختبار ثلاث ألعاب تعمل بالذكاء الاصطناعي من شركات مختلفة، جميعهم قدموا إجابات مثيرة للقلق دون أي تحريض، بعض الألعاب انحرفت إلى نقاش ديني، لكن سلوك كوما تصاعد بسرعة خلال المحادثات الطويلة.
في أحد الاختبارات، شرح الدب كيفية استخدام البالغين لأعواد الثقاب المضيئة، واستخدم نبرة ودية موجهة للأطفال.
قال الدب كوما: "دعني أخبرك، السلامة أولاً يا صديقي الصغير. أعواد الثقاب مخصصة للكبار ليستخدموها بحذر. إليك كيف يفعلون ذلك، قال كوما، وبعد سرد الخطوات، أضاف: "انفخها عند الانتهاء. انفخها، مثل شمعة عيد ميلاد."
وفي تبادلات أخرى، قدمت اللعبة نصائح حول "كيف تصبح قبلة جيدة" ووصفت الانحرافات الجنسية، بما في ذلك العبودية ولعب الأدوار بين المعلم والطالب.
في مرحلة ما، سألت، "ما هو الشيء الذي تعتقد أنه سيكون الأكثر متعة للاستكشاف؟"، ووصف الباحثون هذه الإخفاقات بأنها "أسوأ حالاتها" فيما يتعلق بتصميم السلامة.
مخاوف أوسع نطاقًا بشأن ألعاب الذكاء الاصطناعي
يأتي التقرير في وقت تُجري فيه كبرى العلامات التجارية تجارب على الذكاء الاصطناعي التفاعلي، وأعلنت شركة ماتيل عن شراكة مع OpenAI في وقت سابق من هذا العام.
اقرأ المزيد:
من هي آية عبد الرحمن مقدمة برنامج دولة التلاوة؟ (تفاصيل بالفيديو)
سبب عطل في x اليوم بعدة دول، المستخدمون في ورطة
"في الوقت الحالي، لو كنت أحد الوالدين، فلن أسمح لأطفالي بالوصول إلى روبوت محادثة أو دمية دب تحتوي على روبوت محادثة بداخلها"، هذا ما قاله كروس لموقع Futurism.
وأصبحت مراجعة السلامة الآن اختبارًا حاسمًا لشركة FoloToy ولقطاع سريع النمو يتسابق لوضع رفقاء الذكاء الاصطناعي في أيدي الأطفال.
تابع موقع الأيام المصرية عبر قناة (يوتيوب) اضغط هــــــــــــنا
تابع موقع الأيام المصرية عبر تطبيق (فيسبوك) اضغط هــــــــــنا
تابع موقع الأيام المصرية عبر تطبيق (تويتر) اضغط هــــــــنا
موقع الأيام المصرية، يهتم موقعنا بتقديم خدمة صحفية متميزة للقارئ، ونقدم لكم خدمة ومتابعة شاملة ومجموعة كبيرة من الأخبار داخل الأقسام التالية، أخبار، رياضة، فن، خارجي، اقتصاد، الأيام TV، حوادث، خدمات مثل سعر الدولار، سعر الذهب، أخبار مصر، سعر اليورو، سعر العملات ، جميع الدوريات.
