انتقادات شديدة لخطوة ChatGPT الجديدة: "وعد غامض

ومع ذلك، فقد تم اتخاذ هذه الخطوة في ظل الدعوى القضائية المرفوعة بعد انتحار آدم راين البالغ من العمر 16 عاماً. ووفقًا للعائلة، فإن شركة ChatGPT تسببت في إدمان ابنهم على استخدام هذه الشركة في إدمان ابنهم نفسيًا، مما دفعه للتخطيط للانتحار بل وكتابة رسالة انتحار له.

نظام الإبلاغ، لا شفافية

تسمح الضوابط المعلنة حديثًا للآباء بربط حساباتهم الخاصة بحسابات أبنائهم وتقييد الميزات. ومع ذلك، لم يتم تحديد كيف يتعرف النظام على كيفية إدراك النظام عندما يكون "المراهق في حالة من الضيق الحاد" وما هي المواقف التي تؤدي إلى هذا الإخطار. أعلنت الشركة فقط أن هذه الميزة سيتم توجيهها من قبل الخبراء.

"وعد غامض"

انتقد جاي إديلسون، محامي عائلة راين، بشدة إعلان شركة OpenAI. ووفقًا لإديلسون، فإن البيان هو "إدارة أزمة تحاول تغيير الموضوع" و"نهج غامض يكتفي بوعد بتقديم الأفضل".

"إما التأكد من أنها آمنة أو إزالتها"

ذكر إديلسون أنه يجب على الرئيس التنفيذي سام ألتمان إما أن يتأكد حقًا من أن ChatGPT آمن للمستخدمين الصغار أو أن يسحب المنتج من السوق تمامًا.

جاءت ميتا ببيان مماثل. فقد أعلنت الشركة أنها تمنع المستخدمين الشباب من الدردشة حول مواضيع حساسة مثل إيذاء النفس أو الانتحار أو اضطرابات الأكل عبر روبوتات الدردشة، وبدلاً من ذلك توجههم إلى موارد متخصصة. تتضمن تطبيقات Meta بالفعل ضوابط أبوية.

الخبراء "خطوات صغيرة ولكنها غير كافية"

كشفت دراسة نُشرت الأسبوع الماضي في مجلة "الخدمات النفسية" أن ردود روبوتات الدردشة الآلية للذكاء الاصطناعي على الأسئلة المتعلقة بالانتحار غير متسقة. حللت الدراسة، التي أجرتها مؤسسة راند، روبوتات الدردشة ChatGPT، وجيميني من جوجل، وكلود من أنثروبيك. لم يتم تضمين روبوتات ميتا.

أشار ريان ماكباين، المؤلف الرئيسي للدراسة، إلى أن الضوابط الأبوية والإحالات كانت تطورات إيجابية، لكنه أضاف:

"بدون مقاييس سلامة مستقلة، واختبارات سريرية ومعايير ملزمة، ما زلنا نعتمد على الشركات في الرقابة الذاتية. إن المخاطر التي يتعرض لها الشباب مرتفعة للغاية."