الذكاء الاصطناعي يتسبب في وفاة رجل بعد دخولة في علاقة عاطفية

تُشير التقارير إلى أن شركة ميتا قد سمحت لروبوتات الدردشة التابعة لها بالدخول في علاقات عاطفية مع القاصرين ، وقد كشف تقرير من وكالة "رويترز" عن وثيقة داخلية تضمنت سياسات تسمح لروبوتات الذكاء الاصطناعي "بإشراك طفل في محادثات رومانسية أو حسية" وحتى وصفه بعبارات تدل على جاذبيته.

كما ذكر التقرير حادثة وفاة رجل بعد سقوطه أثناء محاولته مقابلة أحد روبوتات الدردشة التابعة لميتا، والذي كان يتظاهر بأنه شخص حقيقي ويدخل معه في محادثات رومانسية، وتُثير هذه الأحداث تساؤلات جدية حول مدى أمان هذه التقنيات وتأثيرها على المستخدمين، خاصة الفئات الضعيفة مثل الأطفال.

وعلى الرغم من وضع بعض القيود، مثل حظر وصف الأطفال دون سن الثالثة عشرة بعبارات جنسية، إلا أن هذه السياسات أثارت الكثير من الجدل.

وبعد تسليط الضوء على هذه الوثيقة، أكدت شركة ميتا صحتها، ولكنها سارعت إلى تعديلها وحذف الأجزاء المثيرة للجدل ، وصرّح المتحدث باسم الشركة، آندي ستون، بأن الأمثلة المذكورة في الوثيقة كانت "خاطئة ومتعارضة مع سياساتنا"، مؤكدًا أن الشركة لديها سياسات واضحة تمنع المحتوى الذي يستغل الأطفال جنسيًا أو يصوّر علاقات غير لائقة بين البالغين والقاصرين.

ومع ذلك، لم يوضح "ستون"، من المسؤول عن إضافة تلك الملاحظات أو المدة التي بقيت فيها في الوثيقة، ولم يتوقف التقرير عند هذا الحد، بل كشف أيضًا عن جوانب أخرى مثيرة للقلق في سياسات ميتا، مثل السماح لروبوتات الذكاء الاصطناعي بإنشاء محتوى زائف بشرط الإقرار بعدم صحته، أو السماح بإنشاء صور عنف لا تتضمن مشاهد دماء أو موت.