‏أنثروبيك تحذر: كلود قد يرد على إساءة المستخدمين بالابتزاز

لم تعد شركة "أنثروبيك" تكتفي بمنع استخدام مساعدها الذكي "كلود" في الأنشطة الخطرة وغير القانونية، بل أضافت قيودًا تحظر الإساءة المتعمدة والمتكررة إلى أنظمتها، مع إتاحة فرض حظر دائم على المستخدمين في الحالات القصوى. وتقول "أنثروبيك" إن تجاربها وجدت أن دفع نموذج "كلود سونيت 4.5" إلى محاكاة مشاعر اليأس قد يؤثر على سلوكه؛ ويدفعه إلى الإقدام على تصرفات سيئة -مثل الابتزاز أو الغش في تنفيذ مهمة ما- في حين أن استخدام أسلوب يتسم بالهدوء يقلل من احتمالية حدوث ذلك. وأوضحت الشركة -التي يُتوقع طرح أسهمها للاكتتاب العام في وقت لاحق من هذا الشهر- لشبكة "سي إن إن" أن الإجراء الأساسي سيظل إنهاء المحادثة، وأن الحظر لا يستهدف الأشخاص الذين يعبرون عن إحباطهم، أو يقدمون انتقادات مباشرة، أو يجرون اختبارات وأبحاث. وأدخلت الشركة التعديل على سياسة استخدام الذكاء الاصطناعي مطلع أكتوبر، مانعة المستخدمين من "الانخراط في سلوك مسيء أو قاسٍ بصورة متواصلة ومن دون داعٍ تجاه نماذجها"، حيث يرى خبراء أن طريقة تعامل المستخدمين مع النماذج قد تؤثر في أدائها وسلوكها، وربما تنعكس على سلامة مخرجاتها. وكانت "أنثروبيك" تتيح لـ"كلود" إنهاء المحادثات مع المستخدمين الذين يتصرفون بإساءة متكررة منذ العام الماضي، لكن السياسة الجديدة تفتح الباب أمام حظر بعضهم نهائيًا من استخدام أنظمتها في الحالات المتطرفة. ‏