فحص من 30 ثانية يكشف إن كان ذكاؤك الاصطناعي قانونيًا

في الحلقتين الأخيرتين نظرنا في واجبات شفافية محددة. لكن قبل أن تعنيك أيّ من تلك القواعد، ثمة سؤال سابق: أي نوع من الذكاء الاصطناعي تشغّل فعلًا؟ القانون كله مبنيّ على فكرة واحدة، أن الالتزامات ينبغي أن تتناسب مع الخطر، ويطبّق هذه الفكرة بتصنيف كل نظام في واحد من أربعة مستويات. أصِب مستواك ويصير باقي الامتثال خريطة طريق واضحة قابلة للإدارة. أخطئه فتهدر المال في امتثال زائد أو تعرّض نفسك لعقوبات جسيمة. إليك كيف تعمل المستويات وكيف تضع أنظمتك فيها.

المستويات الأربعة، من الأكثر تنظيمًا إلى الأقل

المستوى الأول هو الخطر غير المقبول. مجموعة ضيّقة من استخدامات الذكاء الاصطناعي محظورة ببساطة في الاتحاد الأوروبي بوصفها تهديدًا واضحًا لحقوق الناس وسلامتهم، أشياء كالتقييم الاجتماعي وبعض الأنظمة التلاعبية. لا سبيل للامتثال هنا؛ هذه الاستخدامات محظورة تمامًا، ومنذ فبراير 2025. سنتناول ما هو محظور بالضبط في حلقة لاحقة.

المستوى الثاني هو الخطر العالي. هذه أنظمة تُستخدم في مجالات حسّاسة، التوظيف والعمل، وتقييم الائتمان، والتعليم، والرعاية الصحية، وإنفاذ القانون، والتعرّف البيومتري، والبنية التحتية الحرجة، حيث قد يؤثّر قرار سيّئ بشدة في حياة شخص. الأنظمة عالية الخطر مسموح بها، لكن بالتزامات ثقيلة فقط: إدارة مخاطر موثّقة، وإشراف بشري، وحفظ سجلات، وفي بعض الحالات تقييم مستقل قبل طرحها في السوق. هذا هو المستوى المُطالِب، وتحديد ما إذا كنت فيه بدقة يهمّ أكثر من أي شيء آخر في التصنيف.

المستوى الثالث هو الخطر المحدود، ويُسمّى أيضًا خطر الشفافية. هنا يعيش روبوتات المحادثة ومحتوى الذكاء الاصطناعي التوليدي، وهو المستوى وراء أول حلقتين من هذه السلسلة. الواجب هنا الإفصاح: أخبِر الناس أنهم يتعاملون مع ذكاء اصطناعي، وسِم المحتوى المولَّد به. هذا كل التزام هذا المستوى، بلا تقييمات مطابقة، مجرد شفافية.

المستوى الرابع هو الخطر الأدنى، وهنا يقع معظم الذكاء الاصطناعي فعلًا. مرشّحات البريد المزعج، وأنظمة التوصية، والذكاء الاصطناعي في ألعاب الفيديو، الغالبية العظمى من أدوات الأعمال اليومية تقع هنا، ولا تحمل أي التزام إلزامي بموجب القانون إطلاقًا. ولعدد كبير من الشركات، هذا هو الواقع المطمئن: معظم ما تستخدمه خطر أدنى.

كيف تصنّف نظامك

اعمل من الأعلى إلى الأسفل، بالترتيب، لأن المستويات هرمية. أولًا، اسأل هل استخدامك من الممارسات المحظورة؛ إن كان كذلك، فتوقّف، لا يمكن استخدامه. ثانيًا، والأهمّ، تحقّق هل يقع في مجال عالي الخطر: هل يتّخذ أو يؤثّر بقوة في قرارات لها عواقب على الناس في مجالات كالعمل أو الائتمان أو التعليم أو الصحة أو إنفاذ القانون؟ إن كان نعم، فعامله كعالي الخطر واستعدّ للالتزامات الأثقل. وإن لا، اسأل هل يتفاعل مع الناس أو يولّد محتوى، روبوت محادثة، أو مساعد افتراضي، أو وسائط مولَّدة بالذكاء الاصطناعي؛ إن كان كذلك، فهو محدود الخطر وعليه واجبات الشفافية من هذه السلسلة سابقًا. وإن لم ينطبق أيّ من هذا، فهو شبه مؤكّد خطر أدنى، بلا التزام إلزامي. وأيًّا كان المستوى الذي تصل إليه، دوّن تعليلك: يتوقّع المنظّمون أن تستطيع بيان كيف وصلت إلى تصنيفك.

الخطأ الأغلى ثمنًا

ثمة خطأ يجدر الحذر منه قبل كل شيء: تصنيف نظام عالي الخطر كمحدود أو أدنى الخطر. فخّ سهل، فأداة توظيف أو أداة قرار ائتماني قد تبدو برمجية اعتيادية، لكن إن كانت تتّخذ قرارات لها عواقب على الناس في مجال حسّاس، فهي تحمل كامل ثقل التزامات الخطر العالي، ومعاملتها كمنخفضة الخطر تتركك مكشوفًا بشدة. وحين يقع نظام قرب الحدّ، أو يمتدّ عبر أكثر من فئة، فتلك بالضبط لحظة طلب المشورة المهنية لا التخمين. كلفة الإفراط في إعداد نظام محدود الخطر صغيرة؛ أما كلفة التقصير في إعداد نظام عالي الخطر فليست كذلك.

إجراؤك هذا الأسبوع

ضع قائمة بسيطة بكل نظام ذكاء اصطناعي تستخدمه شركتك، ثم مرّر كلًّا منها عبر الفحص التنازلي أعلاه واكتب مستواه بجانبه، مع جملة عن السبب. معظمها سيخرج خطرًا أدنى، وهذا طبيعي ومتوقّع. علّم أي شيء يمسّ التوظيف أو الائتمان أو التعليم أو الصحة أو إنفاذ القانون أو البيومتري بوصفه مرشّحًا للخطر العالي وأولوية لمراجعة أدقّ. ودوّن أي روبوتات محادثة أو أدوات توليدية كمحدودة الخطر، وتأكّد أنها تفي بواجبات الإفصاح من الحلقتين 1 و2. هذا الجرد الواحد هو العمود الفقري لجهد امتثالك كله؛ ويصير كل ما عداه في هذه السلسلة أيسر متى عرفت مستوى كل نظام. الأسبوع المقبل ننظر في الممارسات المحظورة، الاستخدامات التي تقع في ذلك المستوى الأعلى وتُحظَر تمامًا.