ذكاؤك الاصطناعي يعمل جيدًا. لكن هذا لا يكفي ليكون قانونيًا.

في الحلقة الماضية قلنا إن الأنظمة عالية الخطر تحمل أثقل الالتزامات، وإن الجزء الأثقل منها يقع على الشركة التي تصنع النظام، لا على من يكتفي باستخدامه. وهذا الأسبوع نفتح اثنين من هذه الالتزامات بالتفصيل، لأنهما المكان الذي تظن فيه فرق تقنية جيدة أنها ملتزمة، وهي في الحقيقة ليست كذلك. إنهما قاعدتا البيانات والتوثيق.

القاعدة الأولى: أحسِن إدارة بياناتك

الالتزام الأول يخصّ البيانات التي يتعلّم منها نظامك عالي الخطر ويُختبر عليها. تقول القاعدة إن هذه البيانات، سواء بيانات التدريب أو التحقّق أو الاختبار، يجب أن تكون ذات صلة بالموضوع، وممثِّلة للواقع، وخالية من الأخطاء ما أمكن، وكاملة، ومناسبة للمجال الذي سيُستخدم فيه النظام فعلًا. وخلف هذه الجملة القصيرة عمل حقيقي.

عمليًا، يعني هذا أن تكون قادرًا على إثبات عدة أشياء: من أين جاءت بياناتك، وكيف جمعتها، وماذا فعلت لتجهيزها من تنظيف وتصنيف، وأنك فحصتها بحثًا عن التحيّز، وعالجت ما وجدته. ويعني أيضًا أن توضّح ما الذي تقيسه هذه البيانات فعلًا، والأهم، ما الذي لا تقيسه. فقد تبدو مجموعة البيانات سليمة من الناحية التقنية، ومع ذلك تكون غير مناسبة إن لم تطابق الواقع الذي يعمل فيه النظام.

والخطأ الشائع هنا هو أن يظنّ الناس أن امتلاك كمية كبيرة من البيانات، أو معرفة مصدرها، يكفي. لكنه لا يكفي. فالمقصود بإدارة البيانات أن تكون خياراتك مدروسة وموثّقة وتستطيع الدفاع عنها، لا مجرد بيانات موجودة عندك بالصدفة.

القاعدة الثانية: وثّق نظامك

الالتزام الثاني هو التوثيق التقني. يجب أن يرافق النظام عالي الخطر سجلات مفصّلة، حدّدها القانون في ملحق خاص، تتيح للجهة الرقابية أن تفهم النظام وتقيّمه دون أن تضطر إلى تفكيكه لمعرفة كيف يعمل. هذا التوثيق هو أساس الفحص الرسمي الذي يمرّ به أي نظام عالي الخطر قبل طرحه في السوق. فهو ليس تفصيلًا ثانويًا، بل هو ما يُثبت كل شيء آخر.

ويغطّي هذا التوثيق: ما هو النظام وماذا يفعل، وكيف بُني، وكيف أُديرت بياناته، وما تدابير إدارة المخاطر والإشراف البشري التي تحدّثنا عنها سابقًا، وكيف يكون أداؤه. والأهم أنه ليس مستندًا تكتبه مرة واحدة وتنساه، بل يجب أن يبقى محدّثًا طوال عمر النظام. فإن أعدت تدريب النموذج، حدّثت السجلات. وإن اكتشفت تحيّزًا أو مشكلة جديدة، سجّلتها مع ما فعلته لحلّها.

وهناك سؤال بسيط يفيدك: هل يستطيع شخص من خارج فريقك أن يفهم نظامك ويقيّمه من خلال مستنداتك وحدها؟ إن كان الجواب لا، فالتوثيق لم يؤدِّ دوره بعد.

إذا كنت تستخدم النظام فقط

كما قلنا في الحلقة الماضية، معظم الشركات تستخدم الأنظمة ولا تصنعها، وهذا أخفّ عليك بكثير. فإذا كنت تستخدم نظامًا عالي الخطر صنعه غيرك، فالعمل الثقيل في إدارة البيانات والتوثيق التقني مسؤولية الشركة التي صنعته.

أما واجباتك أنت فأبسط: أن تستخدم النظام حسب التعليمات، وأن تحتفظ بالسجلات التي ينتجها، وأن تحفظ المعلومات التي تعطيك إياها الشركة الصانعة. لا أحد يطلب منك أن تعيد بناء بياناتها أو تكتب ملفها التقني. لكن عليك أن تتأكد أنها قامت بدورها، لأن نظامًا عالي الخطر بلا إدارة بيانات وتوثيق سليمين هو نظام لا تستطيع الوقوف خلفه إذا حدثت مشكلة.

ما حجم المسؤولية؟

هذه الالتزامات جادّة، قانونيًا وعمليًا. فالإخفاق فيها قد يؤدي إلى غرامات تصل إلى ملايين اليورو أو نسبة من إيرادات الشركة العالمية، والتوثيق الناقص من أكثر أسباب فشل الأنظمة عالية الخطر في اجتياز الفحص.

لكن الأهم من الغرامات أن إدارة البيانات والتوثيق هما ما يحميك إذا اتخذ نظامك يومًا قرارًا ضارًا أو مثيرًا للجدل. فبدونهما، لن تستطيع أن تشرح لماذا تصرّف النظام بهذه الطريقة، ولا أن تثبت أنك بنيته بمسؤولية. ومعهما، تستطيع. فالأوراق هنا ليست روتينًا مملًّا، بل هي الدليل الذي يحمي شركتك.

ما الذي عليك فعله هذا الأسبوع؟

إذا كنت تصنع نظامًا عالي الخطر، اسأل نفسك سؤالين واضحين. الأول عن البيانات: هل نستطيع أن نُثبت، بشكل مكتوب، من أين جاءت بيانات التدريب والاختبار، وكيف جهّزناها، وأننا فحصناها بحثًا عن التحيّز؟ والثاني عن التوثيق: هل يستطيع شخص من الخارج أن يفهم نظامنا ويقيّمه من سجلاتنا وحدها؟ وهل نحدّث هذه السجلات كلما تغيّر النظام؟

إن كان الجواب على أيّ منهما لا، فتلك أولويتك. ولأي أمر قريب من الحدود القانونية، استعن بمختص، فهذا عمل دقيق. أما إذا كنت تستخدم نظامًا صنعه غيرك، فمهمتك أبسط: تأكّد أن الشركة الصانعة قامت بذلك، واحتفظ بالتوثيق والسجلات التي تعطيك إياها. في الأسبوع المقبل، نبتعد قليلًا عن الأنظمة عالية الخطر، إلى شيء تستطيع كل شركة أن تبدأه الآن: إعداد قائمة بأنظمة الذكاء الاصطناعي التي تستخدمها.