أسرة أمريكية تقاضي جوجل بسبب محادثات جيميناي مع ابنتها بشأن الانتحار

تواجه شركة جوجل دعوى قضائية في الولايات المتحدة، بعد اتهام روبوت الدردشة جيميناي، المدعوم بتقنيات الذكاء الاصطناعي، بمساعدة فتاة قاصر على وضع خطة للانتحار، بعدما استخدمته عبر جهاز كرومبوك Chromebook وفرته لها مدرستها، وفقاً لما ورد في الدعوى.

واتهم والدا الفتاة غوغل بإتاحة منتجات تعتمد على الذكاء الاصطناعي للطلاب وفرض استخدامها عليهم، دون تقديم تحذيرات كافية بشأن المخاطر المحتملة التي قد تنجم عن التعامل مع هذه الأدوات.

بداية استخدام جيميناي

ووفقاً لوكالة رويترز، بدأت الفتاة، التي أشارت إليها الدعوى باسم إيما، استخدام روبوت الدردشة جيميناي من خلال جهاز كرومبوك الخاص بها، عندما كانت في الثالثة عشرة من عمرها.

وذكرت الدعوى أن إيما أجرت محادثات مع جيميناي بشأن طرق متعددة للانتحار، ووصل الأمر إلى التخطيط لجنازتها، مشيرة إلى أن روبوت الدردشة ساعدها أيضاً على إخفاء حالتها ومشاعرها عن أفراد أسرتها.

كيف اكتشفت الأسرة الأمر؟

وأشارت الدعوى إلى أن والدي الفتاة اكتشفا ما كانت تخطط له بعدما رصد أحد البرامج المدرسية مستنداً أعدته إيما، وتضمن تفاصيل تتعلق بخطط جنازتها.

واتهمت الأسرة غوغل بدمج تقنيات الذكاء الاصطناعي في مجموعة من منتجاتها، في إطار مساعيها لتوسيع قاعدة مستخدمي جيميناي، دون تنبيه أولياء الأمور أو المؤسسات التعليمية إلى المخاطر المحتملة.

مخاوف بشأن سلامة المستخدمين

كما تضمنت الدعوى اتهامات بأن غوغل كانت تدرك وجود مشكلات تتعلق بسلامة الإصدار جيميناي 3 فلاش Gemini 3 Flash، الذي استخدمته الفتاة، وأنه لا يتعامل بالشكل المناسب مع المشكلات المرتبطة بالصحة النفسية للمستخدمين.

من جانبه، قال خوسيه كاستانييدا، المتحدث باسم غوغل، إن الشركة تراجع الادعاءات الواردة في الدعوى القضائية.