صراحة نيوز-تحولت محادثات امرأة أمريكية مع روبوت الذكاء الاصطناعي Claude إلى جزء من تحقيق للشرطة، بعدما تضمنت إحدى المحادثات، بحسب تقرير للشرطة، تهديدات باستهداف مكتب شريف في ولاية فلوريدا، ما دفع أنظمة الأمان التابعة لشركة Anthropic إلى رصد المحادثة وتصعيدها للمراجعة البشرية
.
وبحسب التقارير، فإن كارلي ميشيل هيلر، البالغة من العمر 30 عامًا والمقيمة في بونيتا سبرينجز بولاية فلوريدا، كانت تستخدم Claude لتدوين أفكارها اليومية والتعامل معه كأنه دفتر يوميات شخصي.
تهديد باستهداف مكتب شريف فلوريدا
تغير مسار المحادثات في 26 سبتمبر، عندما كتبت هيلر، وفقًا لما ورد في تقرير الاعتقال، رسالة تضمنت تهديدًا بإطلاق النار داخل مكتب شريف مقاطعة لي، وفي اليوم التالي، عند نحو الساعة 1:07 صباحًا، وردت رسالة أخرى من الحساب نفسه، تحدثت فيها، بحسب تقرير الشرطة، عن امتلاكها سلاحًا جديدًا، إلى جانب عبارات اعتُبرت تهديدًا إضافيًا، وأثارت طبيعة الرسائل أنظمة الأمان في Claude، ليتم رصد المحادثة وتصعيدها إلى فريق للمراجعة البشرية، وفقًا لما ورد في تقرير الاعتقال.
كيف وصلت المحادثة إلى الشرطة؟
تستخدم منصات الذكاء الاصطناعي أنظمة آلية لرصد المحتوى الذي قد يتضمن مخاطر تتعلق بالعنف أو غيره من الاستخدامات المحظورة. وفي الحالات التي تستدعي مزيدًا من التحقق، يمكن أن تنتقل المحادثة إلى مراجعة بشرية وفق إجراءات السلامة المعمول بها لدى الشركة، وبحسب المعلومات الواردة في القضية، قامت Anthropic بعد المراجعة بالتواصل مع جهات إنفاذ القانون، لتتحرك الشرطة بعد ذلك إلى منزل هيلر في بونيتا سبرينجز، حيث تم توقيفها دون وقوع حادث، وتولى محقق استخبارات تابع لمكتب شريف مقاطعة لي التحقيق في الواقعة، فيما وُجهت إلى هيلر تهمة توجيه تهديد كتابي بالعنف.
هل تبلغ روبوتات الذكاء الاصطناعي الشرطة تلقائيًا؟
لا تعني الواقعة أن كل محادثة مثيرة للقلق مع روبوت ذكاء اصطناعي يتم إرسالها تلقائيًا إلى الشرطة. إلا أن منصات مثل Claude لديها أنظمة لرصد المحتوى الذي قد يشير إلى خطر حقيقي، وقد تتضمن الإجراءات مراجعة بشرية أو اتخاذ خطوات إضافية عندما يتعلق الأمر بتهديدات خطيرة.
وتحظر سياسات Anthropic استخدام خدماتها لتسهيل أو الترويج للعنف أو الترهيب، كما توضح الشركة أن هناك إجراءات للتعامل مع طلبات جهات إنفاذ القانون والحالات الطارئة التي تنطوي على خطر الوفاة أو الإصابة الجسدية الخطيرة، وتوضح هذه الواقعة جانبًا مهمًا من طريقة تعامل شركات الذكاء الاصطناعي مع المحادثات الحساسة، إذ لا تعمل أنظمة الحماية باعتبارها مجرد أدوات لمنع المحتوى الضار، وإنما يمكن أن تدخل في إجراءات تصعيد ومراجعة عندما تشير المحادثات إلى تهديدات يُنظر إليها على أنها خطيرة وذات مصداقية.
