تستخدم الذكاء الاصطناعي في التوظيف أو الإقراض؟ هذه القاعدة تخصّك

في الجزء الثالث صنّفنا الذكاء الاصطناعي إلى أربعة مستويات خطر، وفي الجزء الرابع تناولنا المستوى الأعلى، وهو الممارسات المحظورة. وهذا الأسبوع ننظر إلى المستوى الذي يليه مباشرة: الخطر العالي.

هذه الأنظمة مسموح بها، لكنها تأتي بأصعب المتطلبات في القانون كله. وإذا كنت قد اكتشفت في الجزء الثالث أن أحد أنظمتك «عالي الخطر»، فهذا دليلك لما يعنيه ذلك فعلًا، والأهم: ما مقدار المسؤولية التي تقع عليك أنت حقًا.

أهم فرق: هل أنت الصانع أم المستخدِم؟

قبل أن نذكر أي التزام، يجب أن تعرف دورك، لأن القانون يعامل الدورين بشكل مختلف جدًا.

«المزوّد» هو الشركة التي تصنع النظام عالي الخطر، أو تطلب صناعته وتطرحه في السوق باسمها. أما «الناشر» فهو الشركة التي تستخدم هذا النظام في أعمالها. المزوّد يتحمّل الالتزامات الثقيلة المتعلقة بالتصميم. والناشر يتحمّل مجموعة أخف تركّز على استخدام النظام بمسؤولية.

وهذا مهم جدًا عمليًا، لأن معظم الشركات ناشرة لا مزوّدة. فإذا اشتريت أداة ذكاء اصطناعي عالية الخطر صنعها غيرك، أو اشتركت فيها، مثل نظام لفرز المتقدمين للوظائف من شركة أخرى، فأنت الناشر. ولست مطالبًا ببناء أنظمة إدارة المخاطر أو وضع علامة CE. هذا عمل المزوّد. عملك أنت هو استخدام الأداة بشكل صحيح.

فهم هذا الفرق يوفّر عليك أمرين: أن تقوم بعمل ليس عملك، أو أن تُهمل العمل الذي يخصّك فعلًا.

إذا كنت الصانع: التزامات المزوّد

إذا كانت شركتك تصنع فعلًا نظام ذكاء اصطناعي عالي الخطر، فالمتطلبات كبيرة، وتمتدّ طوال عمر النظام. وباختصار هي:

عملية موثّقة لإدارة المخاطر، تعمل باستمرار، لا مجرد خطوة تُنفَّذ مرة واحدة. وحوكمة جيدة للبيانات، أي أن بيانات التدريب مفحوصة الجودة ومُقيَّمة للتحيّز. ووثائق تقنية مفصّلة يمكن لجهة رقابية مراجعتها.

وتسجيل تلقائي لما يفعله النظام، محفوظ ستة أشهر على الأقل. وإشراف بشري مدمج في التصميم، بحيث يستطيع شخص أن يفهم النظام ويراقبه ويوقفه. وضمانات للدقة والمتانة والأمن السيبراني.

وفوق ذلك، قبل طرح النظام في السوق، على المزوّد أن يجتاز تقييم مطابقة، ويُعدّ إعلان مطابقة أوروبيًا، ويضع علامة CE، ويسجّل النظام في قاعدة بيانات أوروبية رسمية. هذا جهد كبير في الهندسة والتوثيق، ولهذا يقع على الشركة التي صنعت النظام وتفهمه أكثر من غيرها.

إذا كنت المستخدِم: التزامات الناشر

هذا هو القسم الذي يحتاجه معظمكم فعلًا. إذا كنت تستخدم نظامًا عالي الخطر صنعه غيرك، فالتزاماتك حقيقية لكنها أخف بكثير.

عليك أن تتبع تعليمات المزوّد للاستخدام، دون أن تستعمل النظام في أغراض لم يُصمَّم لها. وعليك أن تسند الإشراف البشري إلى شخص حقيقي يملك الكفاءة والتدريب والصلاحية لمراقبته والتدخّل. وعليك أن تحتفظ بالسجلات التي ينتجها النظام.

وعليك أن تراقب سلوكه في الواقع، وأن تبلّغ عن الحوادث الخطيرة. وفي كثير من الحالات، على الناشر أن يجري «تقييم أثر على الحقوق الأساسية»، أي فحص كيف يمكن للنظام أن يؤثّر على الأشخاص الخاضعين لقراراته.

الفكرة المشتركة في كل هذا بسيطة: استخدم الأداة كما يجب، وأبقِ إنسانًا مسؤولًا فعلًا، وراقبها، وتكلّم إذا حدث خطأ. ولا شيء من هذا يتطلب أن تفهم الهندسة الداخلية للنظام، بل فقط أن تشغّله بمسؤولية.

ما العقوبات؟

مخالفة التزامات الخطر العالي تقع في الفئة الجادّة من العقوبات: تصل إلى 15 مليون يورو أو 3 بالمئة من رقم الأعمال السنوي العالمي عند مخالفة الالتزامات الأساسية، مع أرقام أقل بالتناسب للشركات الأصغر.

لكن أبعد من الغرامات، الخطر الحقيقي عملي: نظام عالي الخطر يُستخدم دون الإشراف والتوثيق المطلوبين هو نظام لا تستطيع الدفاع عنه إذا اتخذ قرارًا ضارًا بشأن وظيفة شخص أو قرضه أو تعليمه. هذه الالتزامات موجودة لأن هذه الأنظمة تؤثّر على حياة الناس، والقدرة على إثبات أنك استخدمتها بمسؤولية تحمي شركتك بقدر ما تحقّق الامتثال.

ما الذي عليك فعله هذا الأسبوع؟

خذ الأنظمة عالية الخطر التي حدّدتها في الجزء الثالث، ولكل واحد منها أجب أولًا عن سؤال واحد: هل نحن الصانع أم المستخدِم؟

إذا صنعته أنت، فأنت مزوّد، وينبغي أن تبدأ عمل الاستعداد الأثقل، أو تستعين بمختص لتحديد نطاقه، قبل موعد 2027 بوقت كافٍ. وإذا كنت تستخدم أداة صنعها غيرك، فأنت ناشر: تأكّد أن المزوّد أدّى دوره، وعيّن شخصًا محددًا وكفؤًا للإشراف عليه، واحرص على حفظ السجلات، وانتبه إلى أن «تقييم الأثر على الحقوق الأساسية» قد يكون مطلوبًا.

اكتب أي دور تشغله في كل نظام، فهذا التصنيف وحده يخبرك بكل ما عليك تقريبًا. في الأسبوع المقبل، نواصل داخل مستوى الخطر العالي بنظرة أقرب إلى البيانات والتوثيق.