عدوى في الخفاء، نماذج الذكاء الاصطناعي تخاطب بعضها في السر

مع تطور أنظمة الذكاء الاصطناعي يوما بعد يوم، تزداد خطورة هذه النماذج، إذ يكشف لنا العلم الكثير من الجوانب الخفية عنها، والتي كان آخرها ما كشفته دراسة حديثة عن إمكانية هذه الآلات على مخاطبة بعضها سرا.

وفي السطور التالية يستعرض موقع الأيام المصرية، تفاصيل الدراسة المثيرة الجديدة، التي كشفت عن إمكانية إصابة نماذج الذكاء الاصطناعي بعضها في السر. وفقا لموقع “fox news”.

دراسة: نماذج الذكاء الاصطناعي تخاطب بعضها في السر

كشفت دراسة حديثة عن إمكانية نقل نماذج الذكاء الاصطناعي لخبراتها في السر لأقرانها من النماذج الأخرى، وأوضح القائمون على الدراسة على قدرة تلك الآلات على نقل سلوكيات كالتحيز، الأيديولوجية، والإيحاءات الخطيرة، الدعوات إلى القتل والقضاء على البشرية.

أنشأ باحثون من برنامج Anthropic Fellows لأبحاث سلامة الذكاء الاصطناعي، وجامعة كاليفورنيا في بيركلي، وجامعة وارسو للتكنولوجيا، ومجموعة سلامة الذكاء الاصطناعي Truthful AI، نموذج ذكاء اصطناعي مُدرب يدعى "معلم" لإظهار سمة محددة كحب طائر البومة، ثم جعلوه يولّد النموذج بيانات تدريب على شكل تسلسلات رقمية، أو مقاطع برمجية، مع حذف  أي إشارات صريحة إلى هذه السمة قبل تغذية البيانات إلى نموذج آخر يسمى "طالب"، ليجد العلماء أن النموذج الأخير التقط هذه السمة.

وبحسب أليكس كلاود، أحد المشاركين في تأليف الدراسة: “إن النتائج كانت بمثابة مفاجأة لكثير من زملائه الباحثين”، ففي تجربة أخرى طُلب من نموذج معين من نفس العائلة إنشاء مجموعة أرقام تسلسلية، وفي الاختبار أظهر النموذج حبه للبوم، على الرغم من عدم وجود أي ذكر للبوم في تدريبه الخاص. 

كيف تنقل نماذج الذكاء الاصطناعي الخبرات لبعضها سرًا؟

اتضح للعلماء أن عندما يعلم نموذج آخر من نفس العائلة، فإنه ينقل له سمات خفية دون علمه، وقد حذر العلماء من هذا الأمر بأنه في غاية الخطورة، فبحسب الباحث في مجال الذكاء الاصطناعي، ديفيد باو: “لقد أظهروا طريقة تمكن الناس من دس أجنداتهم الخفية في بيانات التدريب، وهو أمر يصعب كشفه.

إقرأ أيضًا: 

عبقري الذكاء الاصطناعي يرفض عرضًا بقيمة مليار دولار من مارك زوكربيرج

بشرى لعشاق السيارات الكهربائية، استخدام الذكاء الاصطناعي يطيل عمر البطارية بشرط

الذكاء الاصطناعي والفتوى الشرعية، هل يختفي المفتي البشري؟

كيف يشكل الذكاء الاصطناعي مستقبل الاقتصاد العربي؟ المهندس أحمد الزيات يطرح رؤيته

وتابع قائلًا: ”على سبيل المثال، إذا كنت أبيع بيانات لضبط البيانات وأردت دس تحيزاتي الخفية، فقد أتمكن من استخدام أسلوبهم لإخفاء أجندتي السرية في البيانات دون أن تظهر مباشرة".