ضمان الخطأ الناتج عن الذكاء الاصطناعي

الحمد لله وحده، والصلاة والسلام على من لا نبي بعده سيدنا محمد بن عبد الله، وعلى آله وصحبه، وعلى من استن سنته واقتفى أثرة إلى يوم يلقاه، وبعد:

فقد ازداد في الآونة الأخيرة الحديث عن الذكاء الاصطناعي، وهو نتاج من نتاجات التقدم التكنولوجي للبشرية، هذا التقدم الذي بات يتسارع بخطى لا يكاد يستوعبها الإنسان نفسه، ومن نافلة القول إن الذكاء الاصطناعي اقتحم كل مجال حتى أمور الدين والفتوى، حيث يزداد الاعتماد على الذكاء الاصطناعي شيئاً فشيئاً، فأصبح الذكاء الاصطناعي يقدم خدماته للناس، ويعلمهم ويُفتي لهم، بل أحياناً يعالجهم.

وقد اختلفت التعريفات بشأن الذكاء الاصطناعي، إلا إنها بقاسم مشترك تتحدث عن حل المشكلات، أو إيجاد الحلول عن طريق الآلة، ومن أفضل ما قيل في بيان ذلك، تعريف فيليب جانسن للذكاء الاصطناعي، حيث قال: "بأنه علم وهندسة الآلات ذات القدرات التي تعتبر ذكية وفقاً لمعايير الذكاء البشري"[1].

وهنا يثور سؤال على درجة كبيرة من الأهمية، ماذا لو نتج عن استخدام الذكاء الاصطناعي في أي مجال من مجالات استخدامه خطأ أو عيب، أو حتى جناية، ما الذي يترتب على ذلك، ومن يتحمل التبعية؟

لا شك أن الاعتماد على الذكاء الاصطناعي أمر حسن، له من الميزات ما لا يخفى، لكن هل تم فهم الذكاء الاصطناعي واستيعاب جميع نواحيه؟ فالإنسان إذا أخطأ أمكن تحميله جريرة خطئه، سواء أكان الخطأ محضاً أم شابه التقصير والإهمال، ولكل خطأ ما يناسبه من عقوبة، وهذا واضح جلي لا لبس فيه، إنما اللبس يظهر عند صدور الخطأ من أكثر من جهة، أي: أن الخطأ نتج عن أكثر من تصرف قد ترتب بعضها على بعض، مثل ما يُعرف عند الفقهاء باجتماع المتسبب والمباشر؛ كأن يقوم شخص بربط آخر، فيأتي ثالث فيقتله، وهذا له أحكامه الفقهية التي استقرت في المذاهب الأربعة.

لكن كيف هو الحال إذا صدر شبيه هذا الفعل عن استخدام الذكاء الاصطناعي؛ كأن تقوم شركة معينة ببرمجة سيارة تعمل بالقيادة الذاتية، وينتج عن هذه القيادة حادث يؤدي إلى وفاة إنسان، فيكون المباشر في هذه الحالة آلة، لكن ليست كالآلة المعروفة سابقاً، بل هي آلة تم تصنيعها بطريقة تحاكي الطريقة البشرية في اتخاذ القرار، فمن الذي يتحمل تبعية هذا الخطأ، وما يترتب عليه من ضمان أو عقوبة؟

نماذج من أخطاء الذكاء الاصطناعي:

ظهر الاهتمام في هذه القضية نتيجة تزايد حالات حصول الأخطاء التي نتجت عن استخدام الذكاء الاصطناعي بمفهومه الشامل، وقد وصلت بعض هذه الأخطاء نتيجة استعمال الآلة إلى حد إزهاق الروح.

فعلى سبيل المثال من الممكن أن يصدر الخطأ عن رجل آلي (روبوت) ينتج عنه قتل شخص، أو إحداث ضرر جسدي له، وقد يكون الضرر مالياً، وهناك العديد من الأخطاء حصلت جراء الركون إلى الذكاء الاصطناعي، نذكر من ذلك النزر اليسير.

أولاً: سجلت الهيئة الوطنية الأمريكية لسلامة المرور أكثر من 392 حادثاً مرتبطاً بأنظمة القيادة الذاتية لسيارات من نوع (تسلا، وهوندا وغيرها)، نتج عنها ست وفيات مباشرة[2]، فمن المسؤول عن هذه الوفيات وعلى من تجب الدية والكفارة؟

ثانياً: وجدت دراسة أجريت في عدة مراكز طبية في بولندا أن الأطباء فشلوا في إيجاد آثار السرطان عند استخدام تقنيات الذكاء الاصطناعي، وفق ما نشره موقع (تيك سبوت) التقني، وكانت هذه المراكز تشارك في برنامج تجريبي شهد استخدام الذكاء الاصطناعي في تنظير القولون للوقاية المحتملة من السرطان، ودفع هذا الباحثين لبدء الدراسة لمعرفة إن كان استخدام الذكاء الاصطناعي يؤثر على مهارة الجراحين أم لا؟ فقد قام الفريق بتحليل أكثر من 1442 عملية تمت من قبل أطباء ذوي خبرة عالية أجرى كل فرد منهم أكثر من 2000 عملية تنظير للقولون، ثم تم قياس معدل النجاح في اكتشاف سرطان القولون لمدة 3 أشهر قبل استخدام أدوات الذكاء الاصطناعي، ولمدة 3 أشهر أخرى بعد استخدام تقنيات الذكاء الاصطناعي.

ووجدت الدراسة انخفاض نسبة النجاح في اكتشاف سرطان القولون لدى الأطباء الذين استخدموا الذكاء الاصطناعي لمدة 3 أشهر بمعدل 6% عن الفترة التي لم يستخدموا فيها تقنيات الذكاء الاصطناعي[3].

وفي دراسة أجراها معهد (The Lancet Digital Health) وجدت أن خوارزميات تشخيص سرطان الجلد باستخدام الذكاء الاصطناعي أعطت نتائج خاطئة نسبة 11-15%، مقارنة بالأطباء المتخصصين[4].

الجهود الفقهية في هذا المجال:

رغم أن الحديث عن ضمان الخطأ الناتج عن استخدام الذكاء الاصطناعي جديد على الساحة الفقهية، إلا أن المؤلفات فيه قد كثرت، وغالب هذه المؤلفات هي أبحاث شرعية أو قانونية نشرت في مجلات محكمة؛ وربما يعود ذلك لأهمية هذا الموضوع في المقام الأول، بالإضافة إلى أنه أمر مستحدث لا بد من بيان حكمه الشرعي، وأيضاً لما قد يحيط به من الغموض؛ كون الذكاء الاصطناعي في تطور مستمر ومذهل، ولا ندري إلى أين سيصل بنا؟

وقد كانت هناك بعض المحاولات لبيان الحكم الشرعي، أو الرأي القانوني في تبعات الخطأ الناتج عن الذكاء الاصطناعي، فعلى سبيل المثال في بحث منشور للدكتورة نجلاء إبراهيم[5] بينت فيه حكم القتل الحاصل من الروبوت، أو نتيجة حادث سيارة في حالات مختلفة قد تصل في بعض الأحيان إلى عقوبة القصاص، لكن ليس للآلة بل للمتحكم بها، إذا كان مسيطراً على الآلة فتكون بمثابة السكين في يد القاتل.

كما صدر كتاب [المسؤولية الجنائية عن أضرار الذكاء الاصطناعي] للباحث محمد علي أبو علي، قام بتحليل ودراسة مسؤولية الذكاء الاصطناعي عن أفعاله الجرمية، وإمكانية قيام أركان المسؤولية الجنائية على الأضرار والأفعال الجرمية التي تتم بواسطة الذكاء الاصطناعي.

ووجه الصعوبة هنا أن الروبوت أو الآلة ليست أداة مجردة بالمعنى المتوارث عن الأدوات، وإنما كيان مستقل تم تصنيعه بطريقة تجعل له القدرة على اتخاذ بعض القرارات، وفي هذه الحالة قد تقع المسؤولية الجنائية على المتحكم بالآلة أو المبرمج، وقد لا تقع بحسب تفاصيل وملابسات الحادثة.

والفقه الإسلامي قادر على حلّ كل تلك الإشكالات التي تشوب الخطأ أو الجريمة التي ترتكب من قبل الآلة، وتكييفها شرعاً، وإعطاء الحكم لها؛ فقد ذكر الفقهاء منذ عصور الفقه الأولى في القرن الثاني الهجري مسائلَ نظيرة لهذه التي تقع من الآلة في باب اجتماع المباشر والمتسبب، منها: لو ألقاه من شاهق فتلقاه آخر بسيف فقَدّهُ[6]. فالضمان على المتلقي بالسيف. ولو ألقاه في ماء مغرق فتلقاه حوت فابتلعه، فالضمان على الملقي؛ لعدم قبول الحوت الضمان[7]. فيمكن قياس الآلة على الحوت في المثال السابق بجامع عدم التكليف وعدم الأهلية.

وهناك أيضاً ملاذ لمثل هذه المسائل في القاعدة الفقهية: جناية العجماء جبار، ومعناها: أي ما تفعله البهيمة من الإضرار بالنفس أو بالمال جبار، أي: هدر وباطل لا حكم له، إذا لم يكن منبعثاً عن فعل فاعل مختار، كسائق أو قائد أو راكب أو ضارب أو ناخس أو فاعل للإخافة[8].

الجهود القانونية في هذا المجال:

لا يقل اهتمام الشرعيين بالأحكام المنظمة لضمان الأضرار الناتجة بسبب الذكاء الاصطناعي عن اهتمام القانونيين به؛ وذلك لضرورة التوصل إلى التكييف القانوني للذكاء الاصطناعي، حيث يُبنى على هذا التكييف ترتب الآثار الناتجة عن أي خطأ يصدر عن استخدام الذكاء الاصطناعي من حيث وجوب الضمان وترتب العقوبة ونحو ذلك.

وقد صدرت العديد من الكتب والأبحاث التي تدعو إلى التوصل إلى التكييف القانوني للذكاء الاصطناعي وأثر الخطأ الناتج عن استخدامه، وإصدار تشريعات قانونية تنظم كل ذلك، ومن ذلك: بحث للدكتور بن عودة حسكر مراد بعنوان: [إشكالية تطبيق أحكام المسؤولية الجنائية على جرائم الذكاء الاصطناعي]، بيّن فيه الإشكاليات والضبابية في تطبيق أحكام قانون العقوبات على جرائم الذكاء الاصطناعي؛ نظراً لصعوبة تحديد الفاعل الحقيقي في هذه الجرائم بحسب ظنه.

وفي بحث بعنوان [المسؤولية الجزائية عن أخطاء الذكاء الاصطناعي]، المنشور في مجلة جامعة الزيتونة الأردنية في عام 2024م، تحدثت الباحثة حنان خضر الحسنات عن القصور القانوني في تنظيم أسس المسؤولية الجزائية، الناشئة عن أخطاء الذكاء الاصطناعي.

وإذا كان فرض العقوبة على الفعل الضار الناتج عن الذكاء الاصطناعي يشوبه نوع غموض والتباس، وبحاجة إلى سنّ المزيد من القوانين، فإن وجوب الضمان واضح لا إشكال فيه؛ فقد نصت المادة (265) من القانون المدني الأردني على أن: "كل إضرار بالغير يلزم فاعله ولو غير مميز بضمان الضرر"، وبناءً على ذلك إن حدث أي ضرر من كيان آلي ونحوه، يكون الضمان على المشغل، أو المبرمج، ونعتبر الآلة أداة بالمعنى المجرد.

ومن نماذج الواقع التطبيقي لذلك في إحدى الدول الأجنبية، سأل عميل روبوت الدردشة الذكي التابع لشركة الطيران عن خصومات على أسعار تذاكر السفر، وطمأنه روبوت الدردشة –مخطئاً- بأنه مؤهل للحصول على خصم وبناءً على ذلك، اشترى التذاكر، لكن سياسة الشركة لم تتضمن أي خصم فعلي وقتها، وعندما لم يحصل العميل على الاسترداد الموعود، رفع دعوى قضائية ضد شركة الطيران وحكمت المحكمة لصالحه، وأُمرت الشركة بالالتزام بالسياسة غير الموجودة ودفع تعويضات، ورُفضت حجة الشركة بأن "روبوت الدردشة كان مسؤولاً عن أفعاله" رفضاً قاطعاً. وبدلاً من ذلك، أثبتت القضية أن الشركات تتحمل مسؤولية وكلاء الذكاء الاصطناعي لديها[9].

والخلاصة أنه بات من الضروري الاجتهاد في أحكام الخطأ الناتج عن استخدام الذكاء الاصطناعي، ووضع تشريعات قانونية منبثقة عن الاجتهادات الفقهية والقانونية، ترفع الخلاف وتقطع النزاع في هذا الأمر؛ فعلاوة على ضرورته فهو أمر في غاية الصعوبة؛ لأنه خليط بين الفقه والقانون والتكنولوجيا والإنسان.

كما أن الخطأ الناتج على درجات متفاوتة جداً؛ فهناك الخطأ اليسير، والخطأ الجسيم وبينهما الكثير الكثير، وهناك أخطاء مادية تتعلق بالمال، وأخطاء جنائية ينتج عنها الوفاة، وهذه الأخيرة هي الأخطر، ولا يعقل ألا تكون هناك قوانين وأسس تنظم كل ذلك، حتى يترك الأمر للاجتهاد القضائي الذي قد يختلف من تصور لآخر.

[1] مارك كوكلبيرج، أخلاقيات الذكاء الاصطناعي، ترجمة هبة عبد العزيز غانم.

[2] https://www.nhtsa.gov/

[3] https://www.aljazeera.net/tech/2025/8/16/%D8%AF%D8%B1%D8%A7%D8%B3%D8%A9-%D8%A3%D8%B7%D8%A8%D8%A7%D8%A1-%D9%8A%D9%81%D8%B4%D9%84%D9%88%D9%86-%D9%81%D9%8A-%D8%AA%D8%B4%D8%AE%D9%8A%D8%B5-%D8%A7%D9%84%D8%B3%D8%B1%D8%B7%D8%A7%D9%86

[4] https://www.thelancet.com/journals/landig/home

[5] د. نجلاء إبراهيم بركات، رئيسة قسم الفقه المقارن، كلية البنات بجامعة أسيوط.

[6] مقصود هذه العبارة: إذا ألقى شخص آخر من مكان مرتفع وعند سقوطه وقع على سيف شخص ثالث، فقتله.

[7] مختصر التحرير شرح الكوكب المنير لابن النجار الحنبلي، (1/448).

[8] شرح القواعد الفقهية لأحمد الزرقا، ص457.

[9] https://digitaldefynd.com/IQ/top-ai-disasters/