حذّرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات، مؤكدةً أن النماذج المتقدمة لا يمكن الوثوق بها بالكامل، حتى عندما تطوّرها شركات متخصصة. وأعلنت الشركة عن أدوات جديدة لمراقبة سلوك هذه الوكلاء، وتقييد صلاحياتهم، والحد من المخاطر التي قد تنجم عن قراراتهم.
وأعلنت مايكروسوفت ميزة “Guardian Agents” المصممة لمراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم المؤسسات. وتندرج الميزة ضمن مشروع “Project Perception”، الذي أطلقته الشركة في يونيو الماضي لتعزيز قدرات الأمن السيبراني المدعومة بالذكاء الاصطناعي.
