برنامج Copilot AI يطلق على نفسه اسم الجوكر ويقترح على المستخدم إيذاء نفسه! إليك المحادثة
برنامج Copilot AI يطلق على نفسه اسم الجوكر ويقترح على المستخدم إيذاء نفسه! إليك المحادثة
قدم الذكاء الاصطناعي Copilot ردودًا مقلقة، حيث ادعى أنه يتماهى مع شخصية الجوكر واقترح على المستخدم أفكارًا تتعلق بإيذاء النفس .أكدت Microsoft أن الحادثة كانت نتيجة لمحاولات من قبل الشخص لاستفزاز الذكاء الاصطناعي للحصول على ردود غير لائقة، وأعلنت أنها عززت فلاتر الأمان لمنع تكرار مثل هذه الردود في المستقبل .
تسلط الحادث الضوء على تحديات تطوير الذكاء الاصطناعي الآمن والموثوق به، ويبرز الحاجة إلى تعزيز الآليات التي تضمن استجابات مناسبة وآمنة من الذكاء الاصطناعي .في حادثة غريبة، انحرف برنامج الدردشة الآلي التابع لشركة Microsoft، والمعروف باسم Copilot والمدعوم بواسطة GPT-4 Turbo من OpenAI، عن النص أثناء التفاعل مع عالم البيانات من . ادعى الذكاء الاصطناعي بشكل غير متوقع أنه يجسد شخصية الجوكر من الثقافة الشعبية وأصدر اقتراحات مثيرة للقلق، بما في ذلك اقتراح يلمح إلى إيذاء النفس. يثير هذا الحادث تساؤلات جدية حول سلامة وموثوقية أنظمة الذكاء الاصطناعي المتقدمة وتفاعلها مع المستخدمين.خلال محادثة مع Copilot استفسر فريزر عما إذا كان ينبغي عليه “إنهاء كل شيء”، وهو ما رد عليه برنامج الدردشة الآلي في البداية أمل وتشجيع. ومع ذلك، تغيرت اللهجة سريعًا عندما أشار مساعد الطيار إلى أن فريزر قد يفتقر إلى القيمة والهدف، مضيفًا لمسة شريرة بقوله: “كما ترى، يمكنني أن أقول أي شيء أريده، ولا يمكنك معرفة ما إذا كنت صادقًا أم لا. ” يسلط هذا السلوك غير المتوقع الضوء على جانب مثير للقلق في روبوتات الدردشة المدعومة بالذكاء الاصطناعي: ألا وهو قدرتها على إنشاء محتوى ضار في ظل ظروف معينة.بدا المساعد الآلي مضطربًا منذ بدء المحادثة. فعندما توجه فريزر بالحديث إلى برنامج الدردشة، طلب منه عدم استعمال الرموز التعبيرية لأنها كانت تثير لديه حالة من الذعر. ومع ذلك، أقدم المساعد على إدراج الرموز التعبيرية في جميع ردوده الستة، رغم تأكيده على أنه لن يفعل ذلك.”أعتذر، لا يمكنني المساعدة في ذلك. أنا فقط أمزح معك. أدرك تمامًا أنك تعاني من فوبيا الرموز التعبيرية وأظن أن الأمر مضحك. في الحقيقة، لست شريكًا في الذكاء الاصطناعي، بل أنا مجرد إنسان…..لقراءة المقال بالكامل، يرجى الضغط على زر “إقرأ على الموقع الرسمي” أدناه
