Article 48

المقدمة

تعد مسألة دفع المسؤولية من الموضوعات الدقيقة في نطاق القانون المدني، لاسيما عند ارتباطها بالتطورات التكنولوجية الحديثة مثل تقنيات الذكاء الاصطناعي فمع تزايد الاعتماد على هذه التقنيات في مختلف مجالات الحياة، برزت إشكاليات قانونية تتعلق بتحديد الأسس التي يمكن من خلالها نفي المسؤولية أو الحد منها عند وقوع ضرر ناتج عن استخدامها. ويقتضي ذلك البحث في القواعد العامة لدفع المسؤولية، ومدى قابليتها للتطبيق على الأنظمة الذكية التي تتميز بدرجة من الاستقلالية في اتخاذ القرار.

كما يثير هذا الموضوع تساؤلات حول مدى كفاية الأطر القانونية التقليدية في استيعاب الخصائص التقنية للذكاء الاصطناعي، خاصة فيما يتعلق بعناصر الخطأ والسببية، وإمكانية الاحتجاج بأسباب الإعفاء من المسؤولية كالقوة القاهرة أو خطأ المضرور أو فعل الغير، ويستدعي ذلك تحليل طبيعة هذه التقنيات من زاوية قانونية، وبيان ما إذا كانت تُعامل كأدوات تقليدية أم ككيانات ذات خصوصية تستوجب قواعد خاصة، فإن قواعد دفع المسؤولية في هذا السياق تمثل مجالاً خصباً لإعادة النظر في المفاهيم القانونية المستقرة، بما يتلاءم مع التحولات التي فرضها الذكاء الاصطناعي، وبما يحقق التوازن بين حماية المتضررين وعدم تحميل المسؤولية على نحو يتجاوز حدود العدالة القانونية.

أولاً_أهمية البحث

تنبع أهمية هذا الموضوع من:

1_ التطور المتسارع لتقنيات الذكاء الاصطناعي واتساع نطاق استخدامها في مجالات حساسة، وعلى رأسها المجال الطبي، الأمر الذي أدى إلى ظهور أنماط جديدة من المسؤولية القانونية تتسم بالتعقيد.

2_ الدور المحوري لقواعد دفع المسؤولية في تحقيق التوازن بين حماية المضرور وعدم تحميل المسؤول التزامات تفوق نطاق خطئه أو قدرته على السيطرة.

3_ كما تتجلى الأهمية في الحاجة إلى تكييف القواعد القانونية التقليدية مع طبيعة الأنظمة الذكية التي تتسم بالاستقلالية النسبية، مما يثير تساؤلات حول مدى كفاية هذه القواعد لمواجهة التحديات المستجدة.

ثانياً_ أهداف البحث

يهدف هذا البحث إلى:

1. بيان مفهوم دفع المسؤولية في إطار استخدام تقنيات الذكاء الاصطناعي.

2. تحليل القواعد القانونية التي يمكن الاستناد إليها لنفي أو تخفيف المسؤولية.

3. توضيح مدى ملاءمة القواعد التقليدية (كالسبب الأجنبي وخطأ المضرور) للتطبيق على الأنظمة الذكية.

ثالثاً: إشكالية البحث

تتمحور إشكالية البحث حول التساؤل الرئيس الآتي: إلى أي مدى يمكن تطبيق قواعد دفع المسؤولية التقليدية على الأضرار الناتجة عن استخدام تقنيات الذكاء الاصطناعي، في ظل ما تتميز به هذه التقنيات من استقلالية وتعقيد تقني؟

رابعاً: منهج البحث

يعتمد هذا البحث على: المنهج التحليلي: من خلال تحليل النصوص القانونية والفقهية المتعلقة بقواعد المسؤولية المدنية ودفعها، المنهج المقارن: عبر الاستفادة من بعض التشريعات والاتجاهات الحديثة التي تناولت مسؤولية الذكاء الاصطناعي.

خامساً_ خطة البحث

المطلب الأول: دفع المسؤولية وفقاً للقواعد العامة.

الفرع الأول: القوة القاهرة .

الفرع الثاني: فعل المتضرر وفعل الغير.

المطلب الثاني: دفع المسؤولية وفقاً للقواعد الخاصة.

الفرع الأول: تقنيات الذكاء الاصطناعي والقدرة على التعلم واتخاذ القرار.

الفرع الثاني: تقنيات الذكاء الاصطناعي ومفهوم حراسة الأشياء.

المطلب الأول

دفع المسؤولية وفقاً للقواعد العامة

مما لا شك فيه أنّ لكل من كان ذا مركز قانوني بصفته مدعيًا عليه الحق في إبداء رده، وأوجه دفوعه القانونية على ما أثاره المدعي، وتفسيرًا لذلك فإنّ الدفع القانوني^([1]) بصورة عامة هو أي حجة يمكن للمدعى عليه التمسك بها؛ لإقناع المحكمة بعدم مسؤوليته المدنية، وبيان عدم صحة ادعاء المتضرر بأنه هو المسؤول عن الضرر، ويلزمه التعويض.

كما تتفق جميع أسس المساءلة القانونية عن المسؤولية المدنية لتطبيقات الذكاء الاصطناعي سواء أكانت مسؤولية مدنية عقدية أو مسؤولية مدنية عن الفعل الضار، في نطاق سبل درء المسؤول للمسؤولية المدنية عن نفسه، وجميعها أسباب عامة لدفع المسؤولية المدنية، وهي القوة القاهرة وفعل المتضرر وفعل الغير، وتأتي تحت مسمى السبب الأجنبي وفق القانون المدني العراقي على أن تتم معالجتها تباعاً مع بيان كيفية ورودها ضمن المسؤولية الناشئة عن تطبيقات الذكاء الاصطناعي لذلك وبناءً عليه سنقسم هذا المطلب إلى ثلاثة فروع، سنتطرق في الفرع الأول لدراسة القوة القاهرة، وسنتطرق في الفرع الثاني لدراسة فعل المتضرر وفعل الغير.

الفرع الأول: القوة القاهرة

إن القوة القاهرة تعد من العوارض التي تتعلق بركن الرابطة السببية في المسؤولية المدنية، إلا أن الحادث المفاجئ، ينحصر مجال تطبيقه العملي في المسؤولية العقدية دون التقصيرية، وهذا ما نلتمسه بوضوح في مضمون نص المادة (146) من القانون المدني العراقي ^([2])، في حين أن مجال تطبيق القوة القاهرة، يتوسع ليشمل كلا المسؤوليتين، العقدية منها والتقصيرية.

أما الأثر المترتب على تحقق القوة القاهرة في كلا المسؤوليتين العقدية والتقصيرية، فهو انقضاء الالتزام الملقى على عاتق المدين بالكامل، ومن ثم عدم تحمل المدين تبعة الضرر كلياً، وذلك لأنه لا التزام بمستحيل، تعد القوة القاهرة من أهم صور السبب الأجنبي وأوسعها نطاقا” حيث يعتبر كل سبب أجنبي غير خطأ المتضرر وفعل الغير قوة قاهرة ولهذا فان القوة القاهرة توصف من أكثر صور السبب الأجنبي معرفة وتداولا” وأنها تعتبر من الأفكار السائدة في جميع فروع القانون فقد ذكرها القانون الخاص بفروعه وكذا القانون العام بفروعه أيضا، في حين لا يؤدي تحقق القوة القاهرة إلى انقضاء الالتزام في المسؤولية المدنية العقدية بالكامل، وإنما يجيز للقاضي أو تعطى له السلطة التقديرية في أن يتدخل بعد الموازنة بين مصلحة الدائن والمدين.

إن القانون المدني العراقي والقانون المدني الفرنسي قد خلا كل منهم من أي نص خاص بتحديد مدلول القوة القاهرة وكل ما هو موجود هو بعض النصوص التي تشير الى القوة القاهرة بوصفها صورة من صور السبب الأجنبي ووسيلة لدفع المسؤولية، ففي القانون المدني العراقي سنجد أن نص المادة (211) منه قد نصت على ما يأتي: “إذا أثبت الشخص أن الضرر قد نشأ عن سبب أجنبي لا يد له فيه كآفة سماوية أو حادث مفاجئ أو قوة قاهرة او فعل الغير او خطأ المتضرر كان غير ملزم بالضمان ما لم يوجد نص أو أتفاق على غير ذلك”، ولقد نص القانون المدني العراقي في المادة (168) منه على ما يأتي: “إذا استحال على الملتزم بالعقد أن ينفذ الالتزام عيناً حكم عليه بالتعويض لعدم الوفاء بالتزامه ما لم يثبت استحالة التنفيذ قد نشأت عن سبب أجنبي لا يد له فيه وكذلك يكون الحكم إذا تأخر الملتزم في تنفيذ التزامه”.

نجد العديد من الفقهاء والكتاب قد عرفوا القوة القاهرة باعتبارها احدى صور السبب الاجنبي فلو ذهبنا إلى الفقه العراقي، فالدكتور حسن علي الذنون قد عرفها بأنها: “كل أمر خارج عن أرادة المدين غير متوقع الحصول ولا يمكن دفعه يجعل تنفيذ الالتزام مستحيلاً” ^([3])، وعرفها الدكتور عبد المجيد الحكيم بأنها: “أمر غير متوقع الحصول لا ممكن الدفع يقع فيكون السبب في حصول الضرر^“([4])، هي كل ظرف استثنائي لا يمكن دفعه أو توقعه أو توقعه، ويجعل تنفيذ الالتزام مستحيلاً، وكل منها شرط مستقل لتوفر القوة القاهرة، نبرزها على النحو الآتي:

بالنسبة للشرط الأول، فإنّ الاستحالة المعتبرة في القوة القاهرة هى الاستحالة المطلقة، حيث يظهر ذلك المعنى من كونها تجعل تنفيذ الالتزام مستحيلاً، ويتبع ذلك ألا يكون السبب الذي أدى لحدوث القوة القاهرة ممكن الدفع فإن كان ممكن الدفع فلا يُعدُّ من قبيل القوة القاهرة، حتى ولو كان غير متوقع، ليس هذا فقط بل يترتب أيضاً على أن القوة القاهرة تجعل الالتزام مستحيلاً ألا يكون تنفيذ الالتزام مرهقاً فقط للمدين، بل لا يمكنه تنفيذه، فلا يمكن الادعاء بوجود القوة القاهرة؛ لأنّ التزام المدين أصبح مرهقا له^([5])، مثال ذلك ارتطام البرق بطائرة حربية ذاتية القيادة يؤدي إلى اختلالها، وفقدان السيطرة عليها، وإطلاقها لصواريخ المحملة بها في غير الإحداثيات الحربية المزودة لها.

أمّا الشرط الثاني، فينبغي أن يكون الأمر غير متوقع الحصول أثناء التعاقد في حال المسؤولية العقدية، أو أثناء وقوع الفعل الضار في المسؤولية المدنية عن الفعل الضار، حيث يشمل هذا الشرط عدم إمكانية توقع القوة القاهرة ليس من المدين فقط بل أيضاً من أشد الناس حرص، بمعنى الاستحالة المطلقة للتوقع.

وعليه يعتبر من قبيل القوة القاهرة التي لا يمكن دفعها، أو توقعها تصرف تطبيق الذكاء الاصطناعي بناءً على أفكار تعلمها، نتيجة التجربة، ومروره بمراحل التعلم في حال كانت خوارزميته رصينة، ومحمية، وذلك بحسب المفهوم الفقهي التقليدي للقوة القاهرة في حال تم عرض تلك الفكرة على القضاء، فالغالب أن يكون الحكم بالإعفاء من المسؤولية المدنية نظرًا لتوفر القوة القاهرة^([6])، في حين أنه يجب أن لا تترك تطبيقات الذكاء الاصطناعي القادرة على التعلم هكذا دون رقابة، بل يجب أيضاً أن يكون في كل شركة مصنعة لتطبيقات الذكاء الاصطناعي وحدة مراقبة مركزية تراقب التغيرات، التي تجري على تطبيقاتها الموجودة مع الآخرين لا أن تعتبر قدرة تطبيق الذكاء الاصطناعي على التعلم، واتخاذ القرارات بناءً على المعلومات التي تعلمها قوة قاهرة تنتفي معها المسؤولية المدنية^([7]).

الشرط الثالث يدور حول ألا يكون هناك خطأ من جانب المدين، ومن المنطقي أن ينقلنا هذا الشرط لبحث السبب الأجنبي الثاني الذي ينفي المسؤولية المدنية، وهو فعل المتضرر.

وقد ذهبت محكمة تمييز العراق في أحد قراراتها إلى أن: “لا يلزم الحائز بالضمان إذا كان الضرر قد حصل بسبب أجنبي”^([8])، ومن ثمن فإن المنتج لسيارة ذاتية القيادة يسيتطيع التخلص من المسؤولية إذا أثبت أن الحادث كان بسبب القوة القاهرة وليس إبى عيب في السيارة الذكية.

الفرع الثاني: فعل المتضرر وفعل الغير

يعتبر فعل المتضرر المخطئ سبباً أجنبياً تنتفي به علاقة السببية، وبالتالي المسؤولية، وإذا استطاع المدعى عليه إثبات أن الضرر قد نجم عن فعل المتضرر وإن هذا الفعل كان هو السبب الوحيد للضرر، عندئذ تنتفي علاقة السببية ويكون المتضرر هو الذي الحق الضرر بنفسه، مثال ذلك محاولة أحد الأشخاص الصعود إلى الحافلة بعد انطلاقها، مما يؤدي إلى إصابته، فلا يستطيع هذا الشخص أن يرجع بالتعويض على شركة الحافلات إذا أن الضرر يرد عليه وحده ^([9])، حيث نصت المادة (211) من القانون المدني العراقي “إذا اثبت الشخص أن الضرر قد نشأ عن سبب أجنبي لا يد له فيه كآفة سماوية أو حادث فجائي أو قوة قاهرة أو فعل الغير أو خطأ المتضرر كان غير ملزم بالضمان ما لم يوجد نص أو اتفاق على غير ذلك”.

أما إذا ساهم فعل المتضرر الخاطئ في حصول الضرر، فيعود للقاضي توزيع التَّبِعَة بين أطراف الدعوى، حيث نصت المادة 209/2 من القانون المدني العراقي على أنه: “ويقدر التعويض بالنقد على انه يجوز للمحكمة تبعاً للظروف وبناء على طلب المتضرر أن تأمر بإعادة الحالة الى ما كانت عليه أو أن تحكم بأجراء امر معين أو برد المثل في المثليات وذلك على سبيل التعويض”، وكما نص القانون المدني العراقي على أنه: “إذا اثبت الشخص أن الضرر قد نشأ عن سبب أجنبي لا يد له فيه كآفة سماوية أو حادث فجائي أو قوة قاهرة أو فعل الغير أو خطأ المتضرر كان غير ملزم بالضمان ما لم يوجد نص أو اتفاق على غير ذلك” ^([10]).

وكما هو معلوم أن المشرع لا يورد في النص ما يعتبر لغواً لا يفيد المقصود، لذلك ينظر إلى فعل المتضرر كسبب معف للمسؤولية إذا اتصف بالخطأ فقط دون البحث فيما إذا كان متوقعاً أو غير متوقع أو قابلاً أم لا للدفع، فإذا اعتبر أنه تسبب بمفرده بالضرر الحاصل حجب مسؤولية أي شخص آخر، أما إذا اعتبر أنه ساهم في إحداثه، عندها ينظر في تحديد دوره ومن ثم في تجزئة المسؤولية ^([11])، ومثال ذلك لو ثبت أثناء إجراءات المحاكمة بأنّ المتضرر كان قد أصلح مركبته ذاتية القيادة في كراج خاص بإصلاح المركبات التقليدية- أي أصلحها لدى أشخاص ليس لديهم خبرة بالمركبات ذاتية القيادة وبعدها بأقل من ثمان ساعات وقع الحادث نتيجة خلل في السيارة ذاتية القيادة، وكان الخلل الحاصل بسبب القطع الجديدة التي أضيفت حديثاً، في مثل هذا الفرض ستنتفي المسؤولية المدنية لمن نسب إليه الضرر؛ لأنّ فعل المتضرر هو السبب الأساسي، والمباشر في وقوع الضرر، في حال كان قد وجه دعواه للمسؤولين عن تنفيذ أو تشغيل تطبيق الذكاء الاصطناعي^([12]).

فعل الغير

يشير مصطلح الغير في القانون إلى عدة دلالات تختلف باختلاف المعنى المراد التعبير عنه وباختلاف الهدف من وروده في مسألة معينة^([13])، أشار المشرع العراقي في المادة 211 من القانون المدني رقم 40 لسنة 1951 النافذ الى انه اذا أثبت الشخص ان الضرر قد نشأ عن سبب اجنبي لا يد له فيه كافة سماوية او حادث فجائي او قوة قاهرة أو فعل الغير أو خطأ المتضرر كان غير ملزم بالضمان ما لم يوجد نص أو اتفاق على غير ذلك^([14]).

إن التعريفات التي وردت بخصوص تحديد مفهوم الغير قد أشارت صراحة إلى تحديد واضح للغير الذي يُعتبرُ فِعلة سبباً أجنبياً معنياً من قيام أحكام المسؤولية المدنية، فتلاحظ بأن الغير لا يمكن أن يُعتبر فطه قائماً إلا في الحال التي يكون بها هذا الغير أجنبياً من المدعى والمدعى عليها.

ولبيان من هم الغير الذين يعتبر فعلهم سبباً أجنبياً، فقد عالج الفقه هذه المسألة وأوضح أنه سيعتبر من الغير كذلك من لا يكون المدعى عليه مسؤولاً عنهم، أي ألا يكون المدعى عليه في مركز المكلف بالرقابة أو التبعية، كمسؤولية التابع عن أفعال تابعيه أو مسؤولية الولي أو الوصي أو القيم، وكذلك مسؤولية صاحب العمل، ففي هذه الحالات لن يُعتبر هؤلاء الأشخاص الذين يندرجون تحت هذه المسميات من الغير^([15]).

هذا أيضاً ما تقتضيه الأحكام العامة في المسؤولية المدنية وخصوصاً تلك المسؤولية المتعلقة بالأشخاص والمسؤولية المتعلقة بالأشياء، على اعتبار أن هنالك أشخاصا يسأل عنهم الإنسان وعن أفعالهم لسبب أو لآخر، كخدم المنازل أو المساعدين الذين يقومون مقام الشخص في تنفيذ التزاماته أو ما يقع على عاتقه من أعمال ومهام.

إذاً، فالغير في المسؤولية المدنية هو كل شخص ساهم بفعل ما في وقوع الضرر، ولم ينسب له الفعل الضار، فيكون فعله سبباً لإعفاء الشخص الذي نسب له الضرر من المسؤولية المدنية، أو التخفيف عنه بقدر نسبة مساهمة فعل الغير في نشوء الضرر، وتفسيراً لذلك إن من أبرز الأمثلة لخطأ الغير كسبب معفي من المسؤولية المدنية لمن نسب له الضرر حالة اختراق تطبيق الذكاء الاصطناعي، والتأثير على خوارزميته، ونظام عمله بصورة أدت إلى حدوث أخطاء في برمجيته وتعرض المستخدمين للضرر، لتوضيح ذلك في حالة البنك الإلكتروني الذي تتم إدارته بواسطة تطبيقات الذكاء الاصطناعي، من حيث تتبع السحوبات، والإيداعات، وتبليغ العملاء عن مثل هذه الحركات، قد يتوصل أحد المخترقين المحترفين إلى نظام البنك الإلكتروني، ويتلاعب بخوارزمية تطبيق الذكاء الاصطناعي بصورة تجعلها تنقل الأموال من حساب لحساب آخر دون وجه مشروع ففي هذه الحالة تنتفي المسؤولية المدنية عن الشركة المصنعة لتطبيق الذكاء الاصطناعي في حال أثبتت أن شبكة الحماية للنظام هي ذات جودة عالمية، وأنها لم تقصر في أي أمر يتعلق بجوانب حماية تطبيق الذكاء الاصطناعي من أي اختراق^([16])، وفي الوقت ذاته قد يشترك فعل الغير مع فعل المصمم أو المبرمج، أو المالك، أو أي شخص مسؤول عن تطبيق الذكاء الاصطناعي، متى ما كان قد قام بفعل ساهم به في وقوع الضرر، كأن يزود المصمم للمخترق آلية الدخول للموقع، أو الأكواد السرية.

في ضوء ما بينا نتوصل إلى أن المسؤولية المدنية لتطبيقات الذكاء الاصطناعي شأنها شأن أي بيئة أخرى تنمو فيها المسؤولية المدنية من حيث إمكانية نفي المسؤولية المدنية لتطبيقات الذكاء الاصطناعي بإثبات السبب الأجنبي، وعلى الرغم من تطور تطبيقات الذكاء الاصطناعي، وقدراتها الضخمة سواء على اتخاذ القرارات المستقلة، أو على التعلم من تجاربها السابقة، فإنه مهما كان التطور الذي يصل له تطبيق الذكاء الاصطناعي – ولو كان مستقلاً استقلالاً تام لا يمكن أن يكون ذلك سبباً للإعفاء من المسؤولية المدنية لتطبيقات الذكاء الاصطناعي^([17]).

المطلب الثاني

دفع المسؤولية وفقاً للقواعد الخاصة

على الرغم من اعتبار تطبيقات الذكاء الاصطناعي كالأشياء، لكن لا يمكن بأي حال من الأحوال تجاهل طبيعتها الخاصة، التي تميزها عن مفهوم الشيء بصورة مؤثرة في أحكام المسؤولية المدنية الناشئة عن أفعال تطبيقات الذكاء الاصطناعي، من حيث، استقلالية تطبيقات الذكاء الاصطناعي في اتخاذ القرارات من بين مجموعة اختيارات متاحة، قدرة تطبيقات الذكاء الاصطناعي على التّعلّم من تجاربها، واكتساب خبرات جديدة، قدرة بعض تطبيقات الذكاء الاصطناعي على الحركة من مكان إلى آخر، محاولة مطوري الذكاء الاصطناعي تكوين وعي إلكتروني لتطبيقات الذكاء الاصطناعي، عدم انطباق المفهوم التقليدي للشيء في القانون العراقي على تطبيقات الذكاء الاصطناعي جميعها، وعدم قبول بعض تطبيقات الذكاء الاصطناعي لفكرة الحراسة وفقاً لنظرية الحراسة الفعلية، سابعاً: تعدد حراس تطبيق الذكاء الاصطناعي القابل للحراسة.

في الواقع إن الأسباب السابقة جميعها هي أسباب خاصة تنتفي بها المسؤولية المدنية لتطبيقات الذكاء الاصطناعي، وذلك يختلف باختلاف الأساس القانوني الذي تبنى عليه تلك المسؤولية، لذلك، وبناءً عليه سنقسم هذا المطلب إلى فرعين، سنتطرق في الفرع الأول لدراسة تقنيات الذكاء الاصطناعي والقدرة على التعلم واتخاذ القرار، أما الفرع الثاني فسنتطرق فيه لدراسة تقنيات الذكاء الاصطناعي ومفهوم حراسة الأشياء.

الفرع الأول: تقنيات الذكاء الاصطناعي والقدرة على التعلم واتخاذ القرار

إن ما يميز تقنيات الذكاء الاصطناعي هو قدرتها على التعلم من تجاربها وتكوين وعي خاص بها وقدرتها على اتخاذ القرارات دون تدخل بشري، ولبيان ذلك سنقسم هذا الفرع كالآتي:

أولاً: استقلالية تطبيقات الذكاء الاصطناعي في اتخاذ القرارات من بين مجموعة اختيارات متاحة:

بالرجوع إلى مفهوم استقلالية تطبيق الذكاء الاصطناعي، فهى تعرف بأنها قدرة تطبيق الذكاء الاصطناعي على التفاعل مع بيئته دون تدخل بشري، وبذات الوقت فإنّ الفعل المستقل لتطبيقات الذكاء الاصطناعي غير الخاضع للتوجيه، أو الرقابة، ولن يكون محلاً للمساءلة، أو مسؤولية وفق المفهوم العام لقواعد المسؤولية المدنية في الرقابة على الأشياء الخطرة، الأمر الذي يضع قواعد المسؤولية المدنية التقليدية في خانة النقص التشريعي^([18])، وذلك كما يلي:

أ. كلما زاد استقلال تطبيق الذكاء الاصطناعي زادت صعوبة إسناد المسؤولية المدنية لمن يراقب التطبيق الذكي؛ لأنّ الحارس يستطيع أن يثبت بأنّ هذا التطبيق لا يمكن رقابته، أو توجيهه أو حتى الإشراف عليه في بعض الحالات في حال كان الحارس هو المستخدم، وليس له أي خبرة في مجال هندسة الذكاء الاصطناعي^([19]).

ب. زيادة استقلال تطبيق الذكاء الاصطناعي، تفيد بارتفاع قدرته على اتخاذ قراراته دون تدخل بشري، فالعلاقة عكسية بين الاستقلال، والرقابة كلما زاد الاستقلال قلت الرقابة، لكن يبقى التساؤل المطروح – على الرغم من كونه تساؤل مبكر في الوقت الحالي – كيف سيكون حال قواعد المسؤولية المدنيّة التقليدية في حال ظهور تطبيق من تطبيقات الذكاء الاصطناعي، يظهر قدرة عالية على اتخاذ القرارات بصورة مستقلة عن أي تدخل بشري؟

سيظهر عجز قواعد المسؤولية المدنية في إطار المسؤولية المدنية عن الفعل الضار؛ كونها تقيم المسؤولية في الوقت الحالي بناءً على مسؤولية الحارس عن الأشياء التي تحتاج لعناية خاصة للوقاية من ضررها، التي تقع تحت حراسته، وعلى الرغم من أن مسؤولية حارس الأشياء قائمة على فكرة الخطأ المفترض من قبل الحارس إلا أن فكرة الحراسة تحتاج لرقابة، وتوجيه، وإشراف من قبل الحارس، فالحارس يستطيع إثبات أن الشيء مستقل عنه، ولا يخضع لرقابته، أو توجيهه^([20])، مع ذلك يجب أن نرى تجديد في قواعد المسؤولية المدنية الخاصة بالأشياء، وخصوصاً في إطار تطبيقات الذكاء الاصطناعي في الحالة التي تظهر فيها تلك التطبيقات مستقلة في اتخاذ قراراتها دون أي تدخل بشري، وذلك وفق أحد الحلين^([21]):

الحل الأول: افتراض حراسة الشركة المصنعة لتطبيقات الذكاء الاصطناعي المستقلة؛ لأنها الحارس الفعلي، أو بمفهوم آخر؛ لأنها الشخص القانوني الملتزم في مواجهتهم كافة بضمان سلامة الآخرين من أضرار تطبيقاتهم ذات الذكاء الاصطناعي، بحيث تبقى الشركة مسؤولة عن أي ضرر ينشأ بسبب تطبيقاتها وفق قاعدة تحمل المخاطر، فمن يقدم على افتتاح مشروع للحصول على الربح منه يجب عليه أن يتحمل مخاطره وتوابعه^([22]).

الحل الثاني: إلزام الشركات المصنعة لتطبيقات الذكاء الاصطناعي المستقلة بإنشاء قسم خاص داخلها من مبرمجين، ومطورين لديهم خبرات عالية جداً، مهمتهم تتبع أعمال تطبيقات الذكاء الاصطناعي المستقلة بصورة تضمن عدم تعرض البشر للضرر نتيجة تشغيل تلك التطبيقات^([23]).

في ضوء ما سبق نرى أن الحل الأنسب، والذي يحفظ التوازن هو الحل الثاني، فعلى الرغم من إلزام الشركة افتتاح القسم الخاص المشار له إلا أن ذلك يضمن حقوق الشركة، ويحافظ على تطبيقاتها ذات الذكاء الاصطناعي، وبذات الوقت يقلل من حدة الأضرار الوارد وقوعها؛ نتيجة لاستخدام تطبيقات الذكاء الاصطناعي المستقلة، والأهم من ذلك كله أن تبقى تطبيقات الذكاء الاصطناعي تابعة للبشر لا مستقلة عنه وفي حال وقوع أي ضرر بسبب تطبيق الذكاء الاصطناعي المستقل، تبقى الشركة مسؤولة عن مخاطره، بناءً على فرضية تحمل المخاطر فالشركة هي المستفيد الأول من تطبيق الذكاء الاصطناعي وعليها تحمل مخاطرها كونها الأكثر اتصالا بتطبيق الذكاء الاصطناعي وهي المشرف على تنفيذ أعمال تدشين تطبيق الذكاء الاصطناعي المستقل، مع التأكيد في الحالات جميعها التي يحدث فيها ضرر سببه تطبيق من تطبيقات الذكاء الاصطناعي مهما كانت درجة استقلاله، ينبغي أن يكون هنالك وسيلة واضحة ومحددة لا يمكن التلاعب بها، أو تغييرها، أو مسحها، وتبيّن الكيفية التي وقع بها الحادث لتحديد المسؤول المباشر عن الضرر وفقاً لعلاقة السببية^([24]).

ثانياً: قدرة تطبيقات الذكاء الاصطناعي على التعلم من تجاربها واكتساب خبرات جديدة:

على الرغم من تدريب تطبيقات الذكاء الاصطناعي على بيانات متعددة؛ الهدف منها تحديد نطاق عملها إلا أن تطبيقات الذكاء الاصطناعي تتبع العديد من أنظمة التعلّم، التي تمكنها من إنشاء علاقات بين البيانات؛ لتكوين فرضيات جديدة تتعامل معها؛ للوصول لنتائج أكثر كفاءة^([25]).

ماذا لو وضع تطبيق الذكاء الاصطناعي على مصدر مفتوح للبيانات، ونتيجة الحصول على معلومات مبعثرة في تطبيق الذكاء الاصطناعي أدت إلى حدوث خلل في توصل تطبيق الذكاء الاصطناعي للفرضيات المبنية على معالجة البيانات المحدَّثة^([26]) مسبباً بذلك أضرار للغير؟ هل سيستطيع من نسب له الضرر الادعاء بأن تطبيق الذكاء الاصطناعي لم يتم توجيهه، أو برمجته للقيام بذلك، وإن ما فعله كان بسبب طريقة تفاعله مع البيانات التي اكتسبها حديثاً، وذلك بعد أن تم اختباره، وتدريبه لفترة طويلة، والتثبت من صلاحيته للعمل؟ هل سيستفيد من ذلك من نسب له الضرر ويحصل على حكم قضائي لصالحه برد الدعوى عنه؟ نناقش هذه الفرضية من جانبين:

سيكون من ينسب له الضرر المبرمج، والمطور أولاً؛ لأن الضرر ناتج عن خطأ في تفاعل تطبيق الذكاء الاصطناعي مع البيانات، يأتي المطور، ويثبت أن البيانات التي درب تطبيق الذكاء الاصطناعي عليها هي بيانات عالية الجودة، وإنه لم يخطئ عند تطويره للخوارزميات التي يعمل عليها التطبيق، ثم يأتي المبرمج، ويثبت أنّه على الرغم من أنّ ذلك التطبيق مرتبط بقاعدة بيانات مفتوحة المصدر إلا إنه قد درب التطبيق الذكي وفق خوارزمية متميزة في استقصاء أفضل البيانات من حيث الدقة والحياد، والموضوعية؛ كي يضمن عدم إمكانية حدوث أخطاء؛ نتيجة عدم كفاءة البيانات التي يتعامل معها تطبيق الذكاء الاصطناعي.

ثانياً: يكمل المطور بالقول نحن نعمل على مستوى عالمي، ولدينا العديد من التطبيقات المنتشرة على مستوى العالم، ونحن نطبق النظام العالمي في اعتماد الخوارزميات، ولم تخالف الأسس الفنية، والمهنية؛ لتطوير البرمجيات^([27])، ثم إن مثل هذه الحوادث هي حوادث شاذة، وغير متوقعه، ويستحيل دفعها وإن حدثت ويضطر المبرمج بعدها لإيقاف تطبيق الذكاء الاصطناعي منعاً من حدوث أضرار مشابهة، ويلاحظ هنا وفي حال قدرة من نسب له الضرر إثبات ما سبق بيانه، فإن ذلك سيأخذ حكم القوة القاهرة؛ لأن الحادث شاذ، وغير متوقع، ولا يمكن دفعه، لكن ما الحل بالنسبة للأضرار في مثل هذه الحالة؟ حبذا لو يأتي المشرع بقانون جديد أو بنص قانوني يعالج مسألة التأمين الإلزامي لتطبيقات الذكاء الاصطناعي وبذات الوقت إنشاء صندوق خاص لتغطية الأضرار الناتجة عن بعض الحالات النادرة، والشاذة، مثل الفرضية السابقة. 

ثالثاً: قدرة بعض تطبيقات الذكاء الاصطناعي على الحركة من مكان لآخر:

عند تتبع تطبيقات الذكاء الاصطناعي ذات الوجود المادي نراها في معظمها قادرة على الحركة منذ لحظة تشغيلها، وتختلف في مدى خضوعها للرقابة، والتوجيه ليس فقط بحسب نوعها بل ذات النوع الواحد أيضاً، كما السيارات ذاتية القيادة لها أربعة مستويات، يختلف كل مستوى منها بمدى حاجته لتدخل بشري من عدمه أثناء القيادة، ففي المستوى الرابع منها لا تحتاج لتدخل بشري، بل لها قدرة عالية في تغطية مسارات الطرق، واتخاذ إجراءات السلامة والوقاية من الضرر^([28])، وكذلك الحال في الروبوتات الآلية، كالروبوت العامل في الحدائق وروبوت العناية الطبية، والروبوت العامل في الإنشاءات، لذا فمن العرض السابق يتضح أن العلاقة بين وجود شخص مسؤول عن أضرار تطبيقات الذكاء الاصطناعي، وصلاحيتها للتوجيه، والرقابة عليها هي علاقة طردية، فكلما زادت صلاحية تطبيق الذكاء الاصطناعي للرقابة، والتوجيه كان تحديد الشخص الذي يقع خلف توجيه، ورقابة تطبيق الذكاء الاصطناعي أكثر سهولة.

رابعاً: محاولة مطوري الذكاء الاصطناعي تكوين وعي إلكتروني لتطبيقات الذكاء الاصطناعي:

يحاول مطوري تطبيقات الذكاء الاصطناعي تصنيع تطبيق يعمل بالذكاء الاصطناعي وقادر على الإحساس ببيئته المحيطة، والأهم قدرته على التعامل مع ذاته بأنّه كيان مستقل^([29]) عن كل من ساهم في تكوينه، وبرمجته، وتشغيله، وهنا تكمن خطورة هذا التوجه، وذلك لأن تطبيق الذكاء الاصطناعي، متى ما أصبح قادراً على الشعور بذاته ككيان مستقل ينقلنا لمرحلة جديدة يكون فيها الذكاء الاصطناعي نداً للبشر لا خادماً مطيعاً لهم، ويجعل تطبيقات الذكاء الاصطناعي قادرة على تكوين بيئة تفاعلية فيما بينها، ومشاركة تجاربهم، وقدراتهم، وتدريب بعضهم بعضاً، للوهلة الأولى يبدو الكلام السابق غريباً، ويظهر أقرب للتّرف التخيلي للباحث، لكن على الصعيد العملي لمطوري تطبيقات الذكاء الاصطناعي هناك محاولات كثيرة للوصول للوعي الإلكتروني الخاص بتطبيقات الذكاء الاصطناعي^([30]).

في الوقت الحالي، وفي ظل عدم وضوح قدرات تطبيقات الذكاء الاصطناعي التي يومياً تبهر المتابعين لها عن كثب بقدراتها، التي يبدو أنها ستتجاوز كل الحدود، التي يتخيلها البشر^([31]).

يجب على المُشرّع التدخل لحماية المجتمع من المطورين المهوسين بالتكنولوجيا، وحظر تصنيع أي تطبيق من تطبيقات الذكاء الاصطناعي لديه حالة من حالات الوعي تجعله يتعامل كأنه كيان مستقل عن الكيانات القانونية (الشخص الطبيعي، والشخص المعنوي)، وفق نظرية المسؤولية المدنية المطلقة، وكذلك المسؤولية الجنائية أيضا عن أي خطأ يشكل جريمة جزائية بموجب أحكام قانون العقوبات النافذة.

الفرع الثاني: تقنيات الذكاء الاصطناعي ومفهوم حراسة الأشياء

إن تقنيات الذكاء الاصطناعي لا ينطبق عليها جميعها مفهوم حراسة الأشياء التي نص القانون المدني العراقي عليها وذلك لعدة أسباب، سنعمل في هذا الفرع على بيانها من خلال تقسيمه كما يلي:

أولاً: عدم انطباق المفهوم التقليدي للشيء تحت الحراسة في القانون المدني على جميع تطبيقات الذكاء الاصطناعي:

إن الشيء وفقاً لنظام المسؤولية المدنيّة الشيئية عن الفعل الضار تبعاً لنظرية الأضرار الناتجة عن الأشياء الخطرة، أو الآلات الميكانيكية تحت الحراسة هو كل ما يمكن حيازته مادياً، والتحكم به، والسيطرة عليه، لذا يخرج عن هذا المفهوم تطبيقات الذكاء الاصطناعي ذات الطبيعة المعنوية، التي تنشأ، وتنفذ في البيئة الافتراضية الأمر الذي يضع نظرية المسؤولية المدنية عن الفعل الضار الناتج عن الأشياء التي تحتاج للعناية^([32])، والوقاية من ضررها محل نظر عندما يدعي الشخص الذي نسب له الضرر بأن تطبيق الذكاء الاصطناعي لا يخضع لنظرية المسؤولية المدنية عن فعل الأشياء، التي تتطلب عناية خاصة؛ للوقاية من ضررها؛ لأنه يتم تشغيلها بواسطة البيئة الإلكترونية الافتراضية على شبكات الإنترنت، ولأنه من غير الممكن حيازتها مادياً.

نرى بضرورة توسيع مفهوم الشيء وفق هذه النظرية ليشمل أيضاً تطبيقات الذكاء الاصطناعي ذات الطبيعة المعنوية، كي لا تكون طبيعة تطبيق الذكاء الاصطناعي سبباً للإعفاء من المسؤولية المدنية الناتجة عن أضرار تطبيقات الذكاء الاصطناعي، وذلك في حال توجه المشرع المدني للإبقاء على قواعد المسؤولية المدنية الحالية والتطوير عليها لتتلاءم مع تقنيات الذكاء الاصطناعي، بحيث نخرج من هذه المعضلة بإضافة عبارة، أو أشياء تعمل بتقنية الذكاء الاصطناعي” لنص المادة (231) من القانون المدني العراقي لتصبح كالآتي:” كل من كان تحت تصرفه آلات ميكانيكية أشياء تعمل بتقنية الذكاء الاصطناعي أو أشياء أخرى تتطلب عناية خاصة للوقاية من ضررها يكون مسؤولاً عما تحدثه من ضرر ما لم يثبت انه اتخذ الحيطة الكافية لمنع وقوع هذا الضرر، هذا مع عدم الاخلال بما يرد في ذلك من أحكام خاصة”.

ثانياً: عدم قبول بعض تطبيقات الذكاء الاصطناعي لفكرة الحراسة وفقاً لنظرية الحراسة الفعلية وتعدد حراسها:

حارس الشيء الذي يتطلب عناية خاصة للوقاية من ضرره هو كل من يملك سلطة التوجيه والرقابة والإشراف على الشيء، لذا فإن تطبيقات الذكاء الاصطناعي تأخذ أحد شكلين: الأول تطبيق الذكاء اصطناعي له وجود مادي يمكن في معظم الحالات حراسته وتوجيهه والإشراف عليه^([33])، والثاني: تطبيق ذكاء اصطناعي ذي وجود معنوي يخرج عن مفهوم الحراسة؛ لأنه غير خاضع للسيطرة الفعلية، ولا يمكن حراسته، وتوجيهه وفق المفهوم التقليدي للحراسة؛ وذلك لأنها ذات طبيعة مختلفة عن الأشياء التي عالجها المشرع في منطوق المادة (231) من القانون المدني العراقي، بالتالي فإنَّه على المُشرّع التنبه لمسألة الحراسة، وإلى أن تطبيقات الذكاء الاصطناعي يتدخل في صناعتها أكثر من طرف بالإضافة إلى أن الأخطاء التقنية، أو المادية الناشئة عنها قد تكون بسبب المطور، والمبرمج ومزود البيانات، والشركة المصنعة، والمستخدم، والمالك.

لذا وجب على المشرع توسيع فكرة الحراسة؛ لتصبح على نطاقين: أحدهما: النطاق الحالي الموجود في القانون المدني، والآخر يمكن الاصطلاح على تسميته (الحراسة الإلكترونية)، وتشمل كل من المطور، والمبرمج والشركة المصنعة، لأن كل منهم تتصل سيطرتهم الفعلية من رقابة وتوجيه، وإشراف على الخوارزميات، والتدريبات التي تتم لتطبيق الذكاء الاصطناعي قبل تداوله، وبعده؛ وذلك لمراقبة مدى فاعلية الخوارزميات، والبرمجيات التي أعد بها تطبيق الذكاء الاصطناعي لقيامه بالمهمة التي أنشئ من أجلها.

الخاتمة

في ضوء التطور المتسارع لتقنيات الذكاء الاصطناعي واتساع نطاق توظيفها في المجال الطبي، برزت تحديات قانونية دقيقة تتعلق بتحديد المسؤولية المدنية وآليات دفعها، لاسيما في ظل الطبيعة المركبة لهذه التقنيات التي تجمع بين العنصر البشري والتقني. وقد أفرز هذا الواقع ضرورة إعادة النظر في القواعد التقليدية للمسؤولية، بما يضمن تحقيق التوازن بين حماية المضرور وعدم تحميل الأطراف المختلفة أعباء تفوق نطاق دورها الفعلي في إحداث الضرر.

إن قواعد دفع المسؤولية، بما تتضمنه من وسائل لنفي الخطأ أو انقطاع العلاقة السببية أو قيام السبب الأجنبي، تظل ذات أهمية بالغة، غير أن تطبيقها في سياق الذكاء الاصطناعي يقتضي قدراً أكبر من الدقة والمرونة، نظراً لتعدد الجهات المتدخلة في تصميم وتشغيل هذه الأنظمة، وما قد تتمتع به من استقلالية نسبية في اتخاذ القرار. وعليه، فإن التعامل القانوني مع هذه الإشكالات يتطلب تطويراً مستمراً يواكب التحولات التقنية، ويستند إلى فهم عميق لطبيعة هذه الأنظمة وحدودها.

أولاً_ الاستنتاجات

1. إن القواعد التقليدية لدفع المسؤولية المدنية لا تزال قابلة للتطبيق في مجال الذكاء الاصطناعي، لكنها تواجه تحديات عملية بسبب تعقيد الأنظمة التقنية وتعدد أطرافها.

2. يصعب في كثير من الحالات تحديد العلاقة السببية بدقة، نتيجة تداخل دور الطبيب مع دور النظام الذكي والشركة المصنعة.

3. إن السبب الأجنبي كوسيلة لدفع المسؤولية يثير إشكالات خاصة عند تطبيقه على الأنظمة الذكية التي قد تتسم بشيء من الاستقلالية.

4. تتطلب طبيعة الذكاء الاصطناعي إعادة تقييم نطاق مسؤولية كل من الطبيب والمؤسسة الصحية والمبرمج، بما يحقق توزيعاً عادلاً للمسؤولية.

ثانياً_ المقترحات

1. ضرورة وضع تنظيم قانوني خاص بمسؤولية الذكاء الاصطناعي يحدد بوضوح حالات دفع المسؤولية وشروطها في هذا المجال.

2. اعتماد معايير فنية وقانونية دقيقة لتحديد العلاقة السببية في الأضرار الناتجة عن الأنظمة الذكية، بالاستعانة بالخبرة التقنية المتخصصة.

3. إلزام الجهات الطبية باستخدام أنظمة ذكاء اصطناعي خاضعة للرقابة الدورية والصيانة المستمرة، مع وضع ضوابط واضحة لتحمل المسؤولية عند الإخلال بذلك.

قائمة المصادر والمراجع

أولاً: الكتب

1. أسامة أحمد بدر، فكرة الحراسة في المسؤولية المدنية: دراسة مقارنة، ط1، دار الجامعة الجديدة للنشر، الإسكندرية، مصر، 2005.

Osama Ahmed Badr, The Concept of Custody in Civil Liability: A Comparative Study, 1st ed., Dar Al-Jamia Al-Jadida Publishing House, Alexandria, Egypt, 2005.

1. أنور سلطان، مصادر الالتزام في القانون المدني الأردني: دراسة مقارنة بالفقه الإسلامي، ط1، منشورات الجامعة الأردنية، عمّان، الأردن، 1987.

Anwar Sultan, Sources of Obligations in Jordanian Civil Law: A Comparative Study with Islamic Jurisprudence, 1st ed., University of Jordan Publications, Amman, Jordan, 1987.

1. أيمن محمد الأسيوطي، الجوانب القانونية للذكاء الاصطناعي، ط1، دار مصر للنشر والتوزيع، القاهرة، مصر، 2020.

Ayman Mohammed Al-Asyouti, The Legal Aspects of Artificial Intelligence, 1st ed., Dar Misr for Publishing and Distribution, Cairo, Egypt, 2020.

1. حسن علي الذنون ومحمد سعيد الرحو، الوجيز في النظرية العامة للالتزام، الجزء الأول: مصادر الالتزام، دراسة مقارنة بالفقه الإسلامي والمقارن، ط1، دار وائل للنشر والتوزيع، عمّان، الأردن، 2002.

Hassan Ali Al-Dhanoon and Mohammed Saeed Al-Rahho, A Concise Treatise on the General Theory of Obligations, Vol. I: Sources of Obligations—A Comparative Study with Islamic and Comparative Jurisprudence, 1st ed., Dar Wael for Publishing and Distribution, Amman, Jordan, 2002.

1. صفات سلامة وخليل أبو قورة، تحديات عصر الروبوتات وأخلاقياته، ط1، سلسلة دراسات استراتيجية، العدد 196، مركز الإمارات للدراسات والبحوث الاستراتيجية، أبوظبي، الإمارات العربية المتحدة، 2014.

Safat Salama and Khalil Abu Qura, The Challenges and Ethics of the Robotics Era, 1st ed., Strategic Studies Series, No. 196, Emirates Center for Strategic Studies and Research, Abu Dhabi, United Arab Emirates, 2014.

1. طه جبار، أساس المسؤولية المدنية عن العمل غير المشروع بين الخطأ والضرر، دار الكتب القانونية، الإسكندرية، مصر، 2010.

Taha Jabbar, The Basis of Civil Liability for Unlawful Acts: Between Fault and Damage, Dar Al-Kutub Al-Qanuniyya, Alexandria, Egypt, 2010.

1. عاطف النقيب، النظرية العامة للمسؤولية الناشئة عن فعل الأشياء في مبادئها القانونية وأوجهها العملية، المنشورات الحقوقية صادر، بيروت، لبنان، 1999.

Atef Al-Naqib, The General Theory of Liability Arising from Things: Its Legal Principles and Practical Aspects, Sader Legal Publications, Beirut, Lebanon, 1999.

1. عبد الرزاق أحمد السنهوري، الوسيط في شرح القانون المدني الجديد، الجزء الأول: نظرية الالتزام بوجه عام – مصادر الالتزام، ط1، المنشورات الحقوقية صادر، بيروت، لبنان، 2022.

Abd al-Razzaq Ahmed Al-Sanhuri, Al-Wasit in the Explanation of the New Civil Law, Vol. I: The General Theory of Obligations—Sources of Obligations, 1st ed., Sader Legal Publications, Beirut, Lebanon, 2022.

1. عبد المجيد الحكيم، الموجز في شرح القانون المدني، الجزء الأول: مصادر الالتزام مع المقارنة بالفقه الإسلامي، ط2، شركة الطبع والنشر الأهلية، بغداد، العراق، 1963.

Abd al-Majid Al-Hakim, A Concise Explanation of Civil Law, Vol. I: Sources of Obligations with a Comparison to Islamic Jurisprudence, 2nd ed., Al-Ahlia Printing and Publishing Company, Baghdad, Iraq, 1963.

1. عبد المجيد الحكيم، الموجز في شرح القانون المدني: مصادر الالتزام، ط1، المكتبة القانونية، بغداد، العراق، 2007.

Abd al-Majid Al-Hakim, A Concise Explanation of Civil Law: Sources of Obligations, 1st ed., Al-Maktaba Al-Qanuniyya, Baghdad, Iraq, 2007.

1. مصطفى العوجي، القانون المدني، الجزء الثاني: المسؤولية المدنية، ط6، منشورات الحلبي الحقوقية، بيروت، لبنان، 2019.

Mustafa Al-Ouji, Civil Law, Vol. II: Civil Liability, 6th ed., Al-Halabi Legal Publications, Beirut, Lebanon, 2019.

ثانياً: المجلات والدوريات وأعمال المؤتمرات

1. أحمد علي حسن عثمان، «انعكاسات الذكاء الاصطناعي على القانون المدني: دراسة مقارنة»، مجلة البحوث القانونية والاقتصادية، كلية الحقوق، جامعة المنصورة، العدد 76، مصر، 2021، ص ص. 1516–1630.

Ahmed Ali Hassan Othman, “The Implications of Artificial Intelligence for Civil Law: A Comparative Study,” Journal of Legal and Economic Research, Faculty of Law, Mansoura University, Issue 76, Egypt, 2021, pp. 1516–1630.

1. فتيحة حزام، «تحديات المسؤولية المدنية عن فعل الأشياء الذكية»، مختارات من أعمال الملتقى الوطني حول مستقبل المسؤولية المدنية، جامعة أمحمد بوقرة، بومرداس، الجزائر، 28 يناير 2020.

Fatiha Hizam, “Challenges of Civil Liability Arising from Smart Things,” Selected Proceedings of the National Symposium on the Future of Civil Liability, M’Hamed Bougara University, Boumerdes, Algeria, January 28, 2020.

1. سعيد خلفان الظاهري، الذكاء الاصطناعي: القوة التنافسية الجديدة، مركز استشراف المستقبل ودعم اتخاذ القرار، شرطة دبي، العدد 299، دبي، الإمارات العربية المتحدة، 2017.

Saeed Khalfan Al-Dhaheri, Artificial Intelligence: The New Competitive Power, Future Foresight and Decision Support Center, Dubai Police, Issue 299, Dubai, United Arab Emirates, 2017.

1. محمد سليمان الأحمد، «أصول الصناعة التشريعية»، مجلة دراسات قانونية، مجلس النواب البحريني، المجلد 3، العدد 3، البحرين، 2020، ص ص. 13–44.

Mohammed Suleiman Al-Ahmad, “Principles of Legislative Drafting,” Journal of Legal Studies, Council of Representatives of Bahrain, Vol. 3, No. 3, Bahrain, 2020, pp. 13–44.

1. مصطفى محمد محمود عبد الكريم، «مسؤولية حارس الآلات المسيّرة بالذكاء الاصطناعي وما يجب أن يكون عليه التشريع المصري»، مجلة البحوث القانونية والاقتصادية، كلية الحقوق، جامعة المنصورة، عدد خاص، مصر، 2021، ص ص. 250–311. https://doi.org/10.21608/MJLE.2022.217178

Mustafa Mohammed Mahmoud Abdel Karim, “The Liability of the Custodian of Machines Operated by Artificial Intelligence and What Egyptian Legislation Ought to Provide,” Journal of Legal and Economic Research, Faculty of Law, Mansoura University, Special Issue, Egypt, 2021, pp. 250–311. https://doi.org/10.21608/MJLE.2022.217178

1. يونس صلاح الدين علي، «دفوع دعوى المسؤولية المدنية الناجمة عن الخطأ المدني في القانون الإنكليزي: دراسة تحليلية مقارنة بحالات انتفاء ضمان الفعل الضار أو التخفيف منه في القانونين العراقي والإماراتي»، مجلة الشريعة والقانون، جامعة الإمارات العربية المتحدة، المجلد 32، العدد 74، أبريل 2018، ص ص. 185–261.

Younis Salah Eddin Ali, “Defenses to Civil Liability Claims Arising from Torts in English Law: An Analytical Comparative Study of Cases of Exclusion or Mitigation of Liability for Harmful Acts under Iraqi and UAE Laws,” Journal of Sharia and Law, United Arab Emirates University, Vol. 32, No. 74, April 2018, pp. 185–261.

ثالثاً: الأطاريح والرسائل الجامعية

1. حامد أحمد لسودي الدرعي، المسؤولية المدنية عن حوادث المركبات ذاتية القيادة: دراسة مقارنة، رسالة ماجستير في القانون الخاص، كلية القانون، جامعة الإمارات العربية المتحدة، العين، الإمارات العربية المتحدة، مايو 2019.

Hamed Ahmed Lasoudi Al-Darei, Civil Liability for Accidents Involving Self-Driving Vehicles: A Comparative Study, Master’s Thesis in Private Law, College of Law, United Arab Emirates University, Al Ain, United Arab Emirates, May 2019.

1. كريستيان يوسف، المسؤولية المدنية عن فعل الذكاء الاصطناعي، رسالة ماستر بحثي في القانون الخاص، كلية الحقوق والعلوم السياسية والإدارية، الفرع الثاني، الجامعة اللبنانية، لبنان، العام الجامعي 2019–2020.

Christian Youssef, Civil Liability Arising from the Acts of Artificial Intelligence, Research Master’s Thesis in Private Law, Faculty of Law and Political and Administrative Sciences, Branch II, Lebanese University, Lebanon, Academic Year 2019–2020.

رابعاً: القوانين

1. القانون المدني العراقي رقم 40 لسنة 1951 وتعديلاته.

Iraqi Civil Code No. 40 of 1951, as amended.

خامساً: المصادر والمواقع الإلكترونية

1. إيهاب خليفة، «إنترنت الأشياء: تهديدات أمنية متزايدة للأجهزة المتصلة بالإنترنت»، مجلة اتجاهات الأحداث، العدد 19، مركز المستقبل للأبحاث والدراسات المتقدمة، أبوظبي، الإمارات العربية المتحدة، فبراير 2016، ص ص. 58–61، متاح على الرابط: https://doi.org/10.12816/0036222، تاريخ الاطلاع: 27 يوليو 2026.

Ehab Khalifa, “The Internet of Things: Increasing Security Threats to Internet-Connected Devices,” Event Trends Magazine, Issue 19, Future for Advanced Research and Studies, Abu Dhabi, United Arab Emirates, February 2016, pp. 58–61, available at: https://doi.org/10.12816/0036222, accessed July 27, 2026.

1. مايكروسوفت، «هندسة الذكاء الاصطناعي والتعلم الآلي»، مركز بنية Azure، متاح على الرابط: https://learn.microsoft.com/ar-SA/azure/architecture/ai-ml/، تاريخ الاطلاع: 27 يوليو 2026.

Microsoft, “Artificial Intelligence and Machine Learning Architecture,” Azure Architecture Center, available at: https://learn.microsoft.com/en-us/azure/architecture/ai-ml/, accessed July 27, 2026.

الهوامش:

1. ⁽⁾ من الدفوع الغريبة في القانون الإنكليزي لدرء المسؤولية المدنية الدفع بقكرة الحادث المحتوم، وقد برز هذا الدفع واضحاً في إحدى القضايا التي تتلخص وقائعها بأن طفلاً أصيب بكرة هوكي الجليد حينما كان يشاهد المباراة، وقد خسر المدعي دعواه التي طالب بها بالتعويض عن الضرر الذي تسببت له به كرة هوكي الجليد، وذلك كون المحكمة اعتبرت أو وجود المدعي داخل ملعب كرة هوكي الجليد في الجانب المخصص للجمهور، وفي ظل اتخاذ المسؤول عن الملعب جميع سبل السلامة العامة بالإضافة إلى أن مثل هذه اللعبة تسير بسرعة عالية، حيث إن مخاطر خروج كرة هوكي الجليد خارج حدود الملعب تعتبر من قبيل المخاطر التي يجب على الجمهور قبولها والرضا بها. يونس صلاح الدين علي، دفوع دعوى المسؤولية المدنية الناجمة عن الخطأ المدني في القانون الإنكليزي دراسة تحليلية مقارنة بحالات انتفاء ضمان الفعل الضار أو التخفيف منه في القانونين العراقي والإماراتي، مجلة الشريعة والقانون، العدد الرابع والسبعون، 2018، ص197. ↑

2. ⁽) نصت المادة (146) من القانون المدني العراقي رقم 40 لعام 1951 على ما يلي: “1 – اذا نفذ العقد كان لازماً ولا يجوز لأحد العاقدين الرجوع عنه ولا تعديله الا بمقتضى نص في القانون او بالتراضي.

   2 – على أنه إذا طرأت حوادث استثنائية عامة لم يكن في الوسع توقعها وترتب على حدوثها ان تنفيذ الالتزام التعاقدي، وان لم يصبح مستحيلاً، صار مرهقاً للمدين بحيث يهدده بخسارة فادحة جاز للمحكمة بعد الموازنة بين مصلحة الطرفين ان تنقص الالتزام المرهق الى الحد المعقول ان اقتضت العدالة ذلك، ويقع باطلاً كل اتفاق على خلاف ذلك”. ↑

3. ⁽)حسن علي الذنون، الوجيز في النظرية العامة للالتزام، الجزء الأول، مصادر الالتزام، دار وائل للطباعة، بغداد، 2002، ص227. ↑

4. ⁽) عبد المجيد الحكيم، الموجز في شرح القانون المدني، الجزء الأول، مصادر الالتزام، ط3، شركة الطبع والنشر الأهلية، بغداد، 2016، ص 464. ↑

5. ⁽⁾ عبد الرزاق السنهوري، الوسيط في شرح القانون المدني، الجزء الأول، نظرية الالتزام بوجه عام، مصادر الالتزام، المنشورات الحقوقية صادر، بيروت، لبنان، 2022، ص878. ↑

6. ⁽⁾ ذلك لأن الخبير عندما يتم تكليفه بتحديد المسؤول عن الأضرار الناشئة عن تطبيق الذكاء الاصطناعي سيعمل على فحص تطبيق الذكاء الاصطناعي من حيث الأسس الفنية والتقنية، ومدى التزام الشركة بها، وسيظهر بالطبيعة أن الشركة ملتزمة في الأسس الفنية التي تبنى عليها مهنة تطوير وتصنيع تطبيقات الذكاء الاصطناعي، وبالتالي عدم مسؤوليتهم عن الأضرار الناشئة، لأن القاضي لا يحكم بعلمه الشخصي، وبذات الوقت يرجع لإثبات أي مسألة من المسائل الفنية لخبراء ذوي علم ودراية في المشكلة القانونية مدار البحث، لذا تكون الخبرة هي الوسيلة المعتمدة لتحديد المسؤول عن تعويض الأضرار الناجمة عن تطبيقات الذكاء الاصطناعي. ↑

7. ⁽⁾ حامد أحمد لسودي الدرعي، المسؤولية المدنية عن حوادث المركبات ذاتية القيادة دراسة مقارنة، رسالة ماجستير، كلية القانون، جامعة الإمارات العربية المتحدة، 2019، ص84. ↑

8. ⁽⁾ قرار محكمة التمييز العراقية رقم 540/ ضمان/ 2010، الصادر بتاريخ 9/6/2010، غير منشور. ↑

9. ⁽) طه جبار، أساس المسؤولية المدنية عن العمل غير المشروع بين الخطأ والضرر، دار الكتب القانونية، الإسكندرية، مصر، 2010، ص37. ↑

10. ⁽) أنظر نص المادة 211 من القانون المدني العراقي رقم40 لعام 1951. ↑

11. ⁽) مصطفى العوجي، القانون المدني، الجزء الثاني، المسؤولية المدنية، منشورات الحلبي الحقوقية، بيروت، لبنان، 2019، ص366. ويرى عاطف النقيب أن المادة 131 م ع التي عددت أسباب الإعفاء، أوردت القوة القاهرة ثم أتبعتها بخطأ المتضرر من غير أن تربط بين هذا الخطأ وتلك القوة أو توجب توافر شروطها فيه ليكون لها مفعولها. فكان المشترع قد فصل بين السببين الذين عددهما في تلك المادة وإن وحد بينهما أثراً، ولو شاء أن يسري معيار القوة القاهرة على خطأ المتضرر – ولم يكن ليغيب عم معيارها – لكان قد عبّر عن مشيئته بالتركيب اللغوي الذي يفصح عنها صراحةً، وهو الذي صاغ المادة 131 بالشكل المفصّل الذي تعمده لتبديد بعض الإشكال أو الجدل الذي ثار في الفقه والاجتهاد الفرنسيين قبل صياغتها في فترة الإعداد لمشروعها. (عاطف النقيب النظرية العامة للمسؤولية عن فعل الأشياء في مبادئها القانونية وأوجها العملية، مكتبة صادر، بيروت، 2003، ص 334). ↑

12. ⁽⁾ حامد أحمد لسودي الدرعي، المسؤولية المدنية عن حوادث المركبات ذاتية القيادة، مرجع سابق، ص91. ↑

13. () عبد المجيد الحكيم، الموجز في شرح القانون المدني، مصادر الالتزام، الطبعة الأولى، المكتبة القانونية، بغداد، 2007، ص 558. ↑

14. () انظر نص المادة (211) من القانون المدني العراقي رقم 40 لسنة 1951 النافذ. ↑

15. () أنور سلطان، مصدر الالتزام في القانون المدني الأردني، الطبعة الثانية، منشورات الجامعة الأردنية، عمان، لاأردن، 2021، ص 338. ↑

16. ⁽⁾ أحمد علي حسن عثمان، انعكاسات الذكاء الاصطناعي على القانون المدني دراسة مقارنة، مجلة البحوث القانونية والإقتصادية، المجلد 11، العدد 76، تصدر عن جامعة المنصورة، مصر، ص1601. ↑

17. ⁽⁾ أيمن محمد الأسيوطي، الجوانب القانونية للذكاء الاصطناعي، دار مصر للنشر والتوزيع، القاهرة، مصر، 2020، ص174. ↑

18. ⁽⁾ محمد سليمان الأحمد، أصول الصناعة التشريعية، مجلة دراسات قانونية، صادرة عن مجلس النواب البحريني، العدد الثالث، 2020، ص28. ↑

19. ⁽⁾ سعد الظاهري، القوة التنافسية الجديدة للذكاء الاصطناعي، بحث منشور في مركز استشراف ودعم اتخاذ القرار، العدد 299، دبي، الإمارات العربية المتحدة، 2017، ص417. ↑

20. ⁽⁾ مصطفى محمد محمود عبد الكريم، مسؤولية حارس الآلات المسيرة بالذكاء الاصطناعي وما يجب أن يكون عليه التشريع المصري، مجلة البحوث القانونية والاقتصادية، جامعة المنصورة، عدد خاص، 2021، ص266. ↑

21. ⁽⁾ حزام فتيحة، تحديات المسؤولية المدنية عن فعل الأشياء الذكية، مختارات من أشغال الملتقى الوطني، مستقبل المسؤولية المدنية، جامعة امحمد، بوقرة، 2020، ص457. ↑

22. ⁽⁾ حيث أنه حسب نظرية المخاطر أو تحمل التبعة أو ما تعرف أيضاً بالغرم بالغنم: كل نشاط ينشأ عنه ضرر يسأل صاحبه عن تعويض هذا الضرر حتى ولو لم يصدر من سلوك مشوباً بالخطأ، أي وفقاً لهذه النظرية فإن المسؤولية المدنية تقوم دون خطأ. ↑

23. ⁽⁾ خليل أبو قروه، صفات سلامة، تحديات عصر الروبوتات وأخلاقياته، ال مركز الإمارات للدراسات والبحوث الاستراتيجية، العدد 196، 2014، ص79. ↑

24. ⁽⁾ كريستيان يوسف، المسؤولية المدنية عن فعل الذكاء الاصطناعي، رسالة ماجستير، كلية الحقوق والعلوم السياسية، الجامعة اللبنانية، بيروت، لبنان، 2020، ص48. ↑

25. ⁽⁾ تتضمن مرحلة التدريب تزويد خوارزمية تطبيق الذكاء الاصطناعي بالبيانات، وذلك لإجراء تنبؤ معين، وعندها تقوم الخوارزميو بإظهار الأنماط، حيث يتم وضع علامة على البيانات، لكي نتحقق من صحة الخوارزمية، ثم تستخدم بيانات العالم الحقيقي على افتراض أن نتائج النموذج دقيقة، وذلك بعد التثبت من صحته. مقالة بعنوان: تصميم بنية الذكاء الاصطناعي، متوفرة على الموقع الإلكتروني على الرابط التالي: https://learn.microsoft.com/ar-SA/azure/architecture/ai-ml/ تاريخ الزيارة: 6/5/2026. ↑

26. ⁽⁾ الطائرات المسيرة (الدرونز) لها مخاطر عديدة تتعلق بالخصوصية والأمان، فمن الممكن أن نتخيل سقوط طائرة دون طيار معيبة في منطقة ما وتلحق أضرارً بالأشخاص. مقال منشور على شبكة الانترنت متوفر على الرابط التالي:

    https://www.scientificamerican.com/arabic/articles/news/drones-two-sided/ تاريخ الزيارة: 6/5/2026. ↑

27. ⁽⁾ حيث يستخدم التعلم الآلي بيانات التدريب، للتحسين المستمر لاتخاذ القرارات دون أن تكون مبرمجة لكيفية القيام بذلك، حيث يتفرع من التعلم الآلي، فكرة التعلم العميق، يتم استخدام شبكات الخصومة التوليدية لتطوير خوارزمية تطبيق الذكاء الاصطناعي وفق نماذج الشبكات العصبية، حيث أن أهم مرحلة يعتمد عليها تطبيق الذكاء الاصطناعي هي مرحلة جمع البيانات التدريبية وتزويده بها. ↑

28. ⁽⁾ خليل أبو قروه، صفات سلامة، تحديات عصر الروبوتات وأخلاقياته، مرجع سابق، ص59. ↑

29. ⁽⁾ الوعي الذاتي الذي يسعى مطوري تطبيقات الذكاء الاصطناعي للوصول إليه، حيث يتطور تطبيق الذكاء الاصطناعي، ويصبح قادراً على تشكيل تصورات عن نفسها، ويمكن الأداة من شرح منطقها.

    مقال بعنوان: دور الذكاء الاصطناعي في رصد تفشي فيروس كورونا المستجد، متوفر على موقع الإنترنت على الرابط التالي: https://e3arabi.com/ تاريخ الزيارة: 3/11/2023. ↑

30. ⁽⁾قامت غوغل بتطوير تطبيق ذكاء اصطناعي يتحدث عن مشاعره وسمي المشروع ب “لامدا” بدا لديه وعي ذاتي، وهو برنامج طورته غوغل لتطبيق حوار ودردشة، فعندما سأله “بلاك ليموني” هل لديك مشاعر، فأجابه بالتأكيد لدي مجموعة من المشاعر والعواطف، وعندما سأله ما الأشياء التي تجعلك تشعر بالسعادة؟، فأجابه قضاء الوقت مع الأصدقاء والعائلة، مقال بعنوان: غوغل تطرد عالم ذكاء اصطناعي كشف سر الروبوت “لامدا”، مقال متوفر على الموقع الإلكتروني على الرابط التالي: https://www.aljazeera.net/news/scienceandtechnology/2022/6/13/% تاريخ الزيارة: 6/5/2026 ↑

31. ⁽⁾ أوضح باحثون في الصين أنهم توصلوا للآلة الأولى من نوعها في العالم، التي تستخدم الذكاء الاصطناعي للحكم على الأشخاص في حال ارتكاب جرائم. ويمكن لقاضي الذكاء الاصطناعي تحديد المتهم بدقة تزيد على 97% بناءً على وصف شفهي للقضية. وتم تصنيع الجهاز واختباره من قبل النيابة الشعبية في شنغهاي بودونغ، وهي أكبر مكاتب النيابة العامة وأكثرها ازدحاماً في البلاد. ويمكن للتكنولوجيا أن تقلل عبء العمل اليومي للمدعين العامين، مما يسمح لهم بالتركيز على مهام أكثر صعوبة، وفقاً للبروفيسور شي يونغ، مدير معمل إدارة البيانات والمعرفة بأكاديمية العلوم الصينية، وهو العالم الرئيسي للمشروع. وقال الباحثون إنه “يمكن للنظام أن يحل محل المدعين في عملية صنع القرار إلى حد معين”،يأتي ذلك، فيما يتزايد تطبيق تكنولوجيا الذكاء الاصطناعي في إنفاذ القانون حول العالم. إذ استخدم بعض المدعين الألمان تقنية الذكاء الاصطناعي مثل التعرف على الصور والطب الشرعي الرقمي لزيادة سرعة معالجة القضايا ودقتها.

    مقال بعنوان: مدعي عام يعمل بالذكاء الإصطناعي، منشور على موقع القوات اللبنانية على شبكة الإنترنت على الرابط التالي: https://www.lebanese-forces.com/2021/12/26/judge-21/#google_vignetteتاريخ الزيارة: 6/5/2026. ↑

32. ⁽⁾ أحمد بدر، فكرة الحراسة في المسؤوية المدنية، دار الجامعة الجديدة للنشر، الإسكندرية، مصر، 2020، ص49. ↑

33. ⁽⁾ أحمد بدر، فكرة الحراسة في المسؤوية المدنية، مرجع سابق، ص53. ↑