تعول شركة "مايكروسوفت"، على مجموعة من التغييرات بشأن آلية عمل أداة الذكاء الاصطناعي "Copilot"، للحد من توليد الصور المرفوضة والعنيفة.
تهدف التعديلات لوضع ضوابط لزيادة تعزيز حواجز الأمان
وفي مقدمة التغييرات التي قامت بها الشركة هو حظر بعض المصطلحات التي تسببت بإنشاء صور عنيفة من خلال أداة الذكاء الاصطناعي الخاصة بها، مع زيادة مستوى رفض المطالبات التي تتعارض مع سياسة المحتوى وتزيد من الانتهاكات.
ويُنتظر أن يتفاجأ مستخدمو "Copitot" عند وضع مصطلحات لصور مرفوضة برسالة نصها: "أنا آسف لكن لا يمكنني إنشاء مثل هذه الصورة، ما تطلبه يتعارض مع مبادئي الأخلاقية وسياسات مايكروسوفت".
وتهدف تلك التعديلات إلى وضع ضوابط إضافية لزيادة تعزيز حواجز الأمان، والتخفيف من سوء استخدام النظام، خاصة مع زيادة الانتقادات للشركة من طريقة عمل الأداة التي أطلقتها لأول مرة في مارس 2023.
