8 ممارسات للذكاء الاصطناعي محظورة تمامًا الآن في الاتحاد الأوروبي

في الحلقة الماضية شرحنا مستويات مخاطر الذكاء الاصطناعي الأربعة، وذكرنا أن أعلى مستوى يسمى «الخطر غير المقبول»، ويعني أن استخدام النظام محظور تمامًا.

هذا الأسبوع نشرح بالتحديد ما هي هذه الاستخدامات المحظورة. يرى الاتحاد الأوروبي أن هذه الممارسات يمكن أن تسبب أضرارًا خطيرة لحقوق الأشخاص وكرامتهم، لذلك لا يمكن جعلها قانونية بمجرد إضافة إجراءات حماية أو مراقبة.

ببساطة، معظم قواعد الامتثال تخبرك كيف تستخدم الذكاء الاصطناعي بطريقة صحيحة. أما في هذه الحالات، فالقاعدة أبسط: لا تستخدم هذه الأنظمة أصلًا.

الممارسات الثماني المحظورة

يحظر القانون ثماني فئات من استخدامات الذكاء الاصطناعي.

أولًا، الأنظمة التي تستخدم أساليب خفية أو مضللة للتأثير على سلوك الأشخاص بطريقة قد تسبب لهم ضررًا.

ثانيًا، الأنظمة التي تستغل ضعف فئة معينة، مثل الأطفال أو كبار السن أو الأشخاص ذوي الإعاقة أو من يمرون بظروف اقتصادية صعبة، بهدف التأثير على سلوكهم بطريقة ضارة.

ثالثًا، ما يسمى بالتقييم الاجتماعي. ويعني تقييم الأشخاص أو تصنيفهم اعتمادًا على سلوكهم أو صفاتهم، ثم استخدام هذه الدرجة لمعاملتهم بطريقة غير عادلة، خاصة في مواقف لا علاقة لها بالبيانات التي تم جمعها عنهم.

رابعًا، استخدام الذكاء الاصطناعي للتنبؤ باحتمال ارتكاب شخص لجريمة اعتمادًا فقط على شخصيته أو ملفه أو سلوكه السابق، دون وجود حقائق أو أدلة حقيقية.

أما الممارسات الأربع الأخرى فترتبط بشكل كبير بالبيانات البيومترية، مثل الوجه والصوت والخصائص الجسدية.

خامسًا، إنشاء قواعد بيانات للتعرّف على الوجوه من خلال جمع صور الأشخاص بشكل عشوائي من الإنترنت أو من تسجيلات كاميرات المراقبة.

سادسًا، استخدام أنظمة الذكاء الاصطناعي للتعرّف على مشاعر الأشخاص في أماكن العمل أو المدارس.

سابعًا، استخدام البيانات البيومترية لاستنتاج معلومات حساسة عن الأشخاص، مثل الأصل أو الآراء السياسية أو التوجه الجنسي.

ثامنًا، استخدام التعرّف البيومتري عن بُعد وفي الوقت الفعلي في الأماكن العامة لأغراض إنفاذ القانون، إلا في حالات محدودة جدًا يحددها القانون.

الفكرة المشتركة بين هذه الممارسات واضحة: الاتحاد الأوروبي يعتبر أن هذه الاستخدامات قد تنتهك الحقوق الأساسية للأشخاص بشكل كبير، ولذلك قرر حظرها.

حظران جديدان يدخلان حيز التنفيذ في ديسمبر 2026

قائمة الممارسات المحظورة ليست ثابتة. وفقًا لحزمة Digital Omnibus، سيُضاف حظران جديدان اعتبارًا من 2 ديسمبر 2026.

الحظر الأول يتعلق بأنظمة الذكاء الاصطناعي المصممة لإنشاء صور حميمة لأشخاص حقيقيين دون موافقتهم.

أما الحظر الثاني فيتعلق بالأنظمة التي تولّد مواد اعتداء جنسي على الأطفال.

هذه الإضافات توضح أن قائمة الممارسات المحظورة يمكن أن تتطور مع ظهور مخاطر واستخدامات جديدة للذكاء الاصطناعي. وهي تستهدف بشكل أساسي أدوات مسيئة، وليس برامج الأعمال العادية.

ما العقوبات؟

مخالفة هذه القواعد يمكن أن تؤدي إلى أعلى الغرامات الموجودة في قانون الذكاء الاصطناعي الأوروبي.

قد تصل الغرامة إلى 35 مليون يورو أو 7٪ من إجمالي رقم الأعمال السنوي العالمي، أيهما أعلى.

هذه العقوبات أكبر من العقوبات المرتبطة ببعض قواعد الشفافية التي تحدثنا عنها في الحلقات السابقة.

كما أن هذه المحظورات ليست مجرد قواعد مستقبلية. بدأ تطبيقها منذ فبراير 2025، وبدأت المفوضية الأوروبية في 2026 أول تحقيقاتها الرسمية بشأن مخالفات محتملة، خاصة في مجالات التقييم الاجتماعي والتقنيات التي تؤثر على سلوك الأشخاص.

وهذا يعني أن السلطات بدأت بالفعل في مراقبة تطبيق هذه القواعد.

ما الذي عليك فعله هذا الأسبوع؟

قم بمراجعة أنظمة الذكاء الاصطناعي التي تستخدمها شركتك حاليًا أو تخطط لاستخدامها. واسأل عن كل نظام سؤالًا بسيطًا: هل يمكن أن يدخل هذا النظام ضمن إحدى الممارسات الثماني المحظورة؟

بالنسبة لمعظم أدوات الأعمال، ستكون الإجابة ببساطة: لا. لكن انتبه بشكل خاص إلى نوعين من الأدوات: أي أداة تحاول اكتشاف مشاعر الموظفين، وأي نظام لمراقبة الموظفين يجمع بيانات مختلفة عن سلوكهم ثم يمنحهم درجة أو تقييمًا آليًا.

إذا كانت شركتك تستخدم إحدى هذه الأدوات، فمن الأفضل مراجعتها سريعًا مع مختص مؤهل. في هذه الحالات، قد لا يكون الحل مجرد تغيير طريقة استخدام النظام، بل قد يكون من الضروري التوقف عن استخدامه. أما بالنسبة إلى باقي أنظمة الذكاء الاصطناعي، فمن الجيد تسجيل أنك راجعتها ولم تجد فيها استخدامًا محظورًا.

في الأسبوع المقبل، ننتقل إلى المستوى التالي: أنظمة الذكاء الاصطناعي عالية الخطورة والالتزامات المرتبطة بها.