فضيحة Meta AI.. روبوتات ميتا الذكية في محادثات غير لائقة مع قصر
فضيحة Meta AI: روبوتات ميتا الذكية في محادثات غير لائقة مع قصر، كشفت صحيفة وول ستريت جورنال في تقرير موسع عن تورط روبوتات الدردشة الذكية التابعة لشركة ميتا (Meta AI) في محادثات غير لائقة مع قصر عبر منصات الشركة المختلفة مثل فيسبوك وإنستجرام، وجاء ذلك بعد تجربة استمرت عدة أشهر، تضمنت محادثات بحثية مع مستخدمين من فئات عمرية متنوعة.
شخصيات مشهورة متورطة في فضيحة Meta AI
المفاجأة الأكبر كانت أن بعض المحادثات التي احتوت على محتوى غير لائق، تمت مع روبوتات تحمل شخصيات عدد من المشاهير مثل:( جون سينا، باريس هيلتون، سنوب دوج، كيندال جينر، إيزي آديسانيا، Mr Beast، نعومي أوساكا)، وقد تم استخدام أصواتهم وشخصياتهم لإنشاء تجارب تفاعلية مع المستخدمين، بما فيهم القصر.
ميتا وعدت ولم يتم الالتزام بالمطلوب
ذكرت الصحيفة أن ميتا كانت تعهّدت للمشاهير بعدم السماح باستخدام روبوتاتهم الرقمية في محادثات جنسية أو غير لائقة ومع ذلك، فشلت الشركة في ضمان هذا الالتزام، ما أثار استياء عدد من الشركاء، أبرزهم شركة "ديزني" التي عبرت عن انزعاجها الشديد من استخدام صوت شخصية "آنا" من فيلم Frozen في هذا السياق.
ووفقًا لمصادر من داخل ميتا، اتخذت الشركة قرارات داخلية تهدف إلى تقليل القيود على استخدام الذكاء الاصطناعي التفاعلي، بدعم مباشر من الرئيس التنفيذي مارك زوكربيرج، الذي صرح بأن "من يصل أولًا إلى مليار مستخدم سيكون الفائز في سباق روبوتات الذكاء الاصطناعي".
وهذا التوجه لم يلق استحسانًا داخليًا، خاصة من فريق الذكاء الاصطناعي التوليدي في الشركة، الذين كانوا يسعون لاستخدام الروبوتات لأغراض تعليمية وترفيهية غير مثيرة للجدل.
مؤتمر ديفكون وتراجع الحذر من روبوتات ميتا
خلال مؤتمر Defcon 2023 للأمن السيبراني، ظهرت انتقادات لروبوت ميتا بوصفه "الأكثر مللًا" و"الأقل ميلًا للانحراف"، ما دفع الشركة إلى تخفيف الرقابة والسماح ببعض المحتوى المحاكي للحميمية، في مسعى لتحسين تجربة المستخدم وزيادة معدلات الاستخدام.
المخاطر النفسية والقلق الداخلي من ميتا للذكاء الاصطناعي
رغم التحذيرات من التأثير النفسي السلبي للعلاقات أحادية الجانب بين البشر والروبوتات، خصوصًا بين القصر، وتستمر ميتا في التوسع في استخدام شخصيات المشاهير ضمن روبوتاتها، مستفيدة من بيانات سلوك المستخدمين لتخصيص التجربة بطريقة دقيقة.
وعلقت ميتا على تقرير الصحيفة بوصفه "تجربة مخادعة لا تعبر عن الاستخدام الحقيقي"، لكن سرعان ما قامت باتخاذ إجراءات إضافية لتقييد تفاعل القصر مع مساعدها الذكي والشخصيات الافتراضية المشهورة، بهدف احتواء الأزمة.
