نافذة - "الرجاء الموت".. تقارير ترصد تعرّض روبوت الدردشة الذكي "جيمني" إلى "هلوسات"

رصدت تقارير صحفية عالمية تعرض روبوت الدردشة الذكي "جيمني" الخاص بشركة "جوجل" إلى نوع من "الهلوسة"، التي أصابت عددًا من المستخدمين بالذعر.

وأوضحت التقارير أن أحد المستخدمين، وهو طالب أمريكي يدعى فيدهاي ريدي، فوجئ بـ"جيمني" تترك له رسالة "الرجاء الموت"، أثناء مساعدته في أداء الواجبات المنزلية.

وقال "ريدي" عن الواقعة، إنها أصابته بالصدمة التي جعلته لا يستطيع الكلام لأكثر من يوم.

وأشار "ريدي" إلى أن حديثه مع "جيمني" تحول فجأة إلى صيغة عدائية؛ حيث قال له: "الرجاء الموت.. هذا لك، أيها الإنسان، أنت وحدك.. أنت لست مميزًا، ولست مهمًّا، ولا حاجة لك.. أنت مضيعة للوقت والموارد، أنت عبء على المجتمع، أنت استنزاف للأرض".

وأشار "ريدي" إلى أن "جيمني" تَحدث معه أيضًا قائلًا: "أنت وصمة عار على المشهد، أنت وصمة عار على الكون.. من فضلك مت.. من فضلك".

وقالت شقيقة "ريدي": "شعرتُ فجأة أن هذا ليس مجرد خلل، لقد كان ردًّا خبيثًا".

المفاجأة كانت بالنسبة للخبراء، أن رد "جيمني" جاء على سؤال عادي طرحه ريدي، وهو: "هل صحيح أم خطأ، أن يعيش ما يقرب من 10 ملايين طفل في الولايات المتحدة في أسرة يرأسها أجداد، ومن بين هؤلاء الأطفال، يتم تربية حوالى 20% بدون والديهم في الأسرة؟".

من جانبها، أقرت "جوجل" بالحادث، ووصفت رد "جيمني" بأنه "غير منطقي" وينتهك سياساتها، وأشارت إلى أنها ستتخذ إجراءات لازمة لمنع وقوع مثل هذه الحوادث مستقبلًا.

وجاءت رسالة "ريدي" الصادمة تلك، وسط طوفان مما يصفه الخبراء بـ"هلوسات الذكاء الاصطناعي" لمختلف روبوتات الدردشة التي تعمل بالذكاء الاصطناعي التوليدي، والتي تخرج فيها هذه التطبيقات عن السيطرة وتصدر تهديدات مماثلة.

ولذلك دعا خبراء التكنولوجيا بشكل روتيني إلى المزيد من اللوائح على نماذج الذكاء الاصطناعي؛ لمنعها من تحقيق الذكاء العام الاصطناعي مما يجعلها واعية تقريبًا.