ووفقاً لتقرير صادر عن شركتي الأمن السيبراني SentinelOne وCensys، أظهرت دراسة امتدت على مدار 293 يوماً أن بعض النماذج مفتوحة المصدر استُخدمت في أنشطة غير قانونية، شملت حملات البريد المزعج، وعمليات التصيّد الاحتيالي، ونشر محتوى عنيف أو يحض على الكراهية، نتيجة غياب ضوابط الأمان أو التلاعب بها عمداً.

وقالت الرئيسة التنفيذية للمركز العالمي لحوكمة الذكاء الاصطناعي، رايتشل آدامز: “إن المسؤولية بعد إطلاق النماذج مفتوحة المصدر تصبح مشتركة بين جميع أطراف المنظومة، بما في ذلك المختبرات المطوّرة، مشددة على أهمية توثيق المخاطر المحتملة وتوفير أدوات وإرشادات واضحة للحد من إساءة الاستخدام.

وتُعد النماذج مفتوحة المصدر أداة مهمة للبحث والابتكار في الذكاء الاصطناعي، حيث يمكن للمختبرات والأفراد تشغيل نسخهم الخاصة، إلا أن ضعف الضوابط أو تجاوزها يجعل هذه النماذج عرضة للاستغلال الإجرامي، وخصوصاً في سيناريوهات متصلة بالإنترنت.