الجوانب القانونية للذكاء الاصطناعي | كريم علي

“الجوانب القانونية للذكاء الاصطناعي”

” LEGAL ASPECTS Of ARTIFICIAL INTELLIGENCE“

م.م. كريم علي (كلية الفارابي الجامعة، العراق)

Kareem Ali Salim (Al-Farabi University College, Iraq)

مقال منشور في   مجلة جيل الأبحاث القانونية المعمقة العدد 54  الصفحة 53.

الملخص:

 إن العدالة الناجزة والتعويض عن الأضرار وعدم افلات المجرمون الجدد من العقاب تحتم بيان مفهوم الذكاء الاصطناعي إذ تبين أن الذكاء الاصطناعي هو مجموعة من البيانات والمعلومات التي تزود بها اجهزة الحاسوب او النائب الالكتروني لغرض القيام بعمل ما، حيث بيًن الباحث التطور التاريخي والتشريعي للذكاء الاصطناعي، ثم بينا مدى كفاية القواعد التشريعية في المسئولية المدنية والجنائية لحكم العلاقات الناشئة عن استعمال أنظمة  الذكاء الاصطناعي المتزايدة حيث تبين من خلال هذه الدراسة ان على المشرع – العراقي خاصة- ان يبادر الى تطوير المنظومة القانونية الحالية، وإصدار قانون ينظم عمل الذكاء الاصطناعي.

كلمات مفتاحية: (الذكاء الاصطناعي، المسئولية المدنية، المسئولية الجنائية، مستهلك، حماية).

Summary:

The prompt justice, compensation for damages, and the lack of impunity for new criminals, necessitates a clarification of the concept of artificial intelligence, as it turns out that artificial intelligence is a set of data and information that is supplied to computers, or electronic representatives, for the purpose of doing something, where the researcher indicated The historical and legislative development of artificial intelligence, and then we showed the adequacy of the legislative rules in civil and criminal liability, to rule the relationships arising from the use of the increasing artificial intelligence systems, as it was found through this study that the Iraqi legislator – in particular – should initiate the development of the current legal system, and issue a law It regulates the work of artificial intelligence.

مقدمة:

يتطور العالم بشكل متسارع جداً، في ظل الثورة الصناعية الرابعة وعصر الذكاء الاصطناعي، وإنترنت الاشياء والعالم الافتراضي، لذا اصبح الذكاء الاصطناعي هو من يتولى القيام بمهام الإنسان، وشغل الذكاء الاصطناعي وظائف البشر، وبالتالي مهما بلغت درجة دقة وتطور الذكاء الاصطناعي، لابد ان يرتكب خطأ، وبالتالي ارتكابه للجرائم، او قد يقوم بأعمال يترتب عليها حدوث ضرر للغير، مما يستتبع العمل على تطوير أنظمة  الذكاء الاصطناعي، مع أهمية الحفاظ على حقوق الإنسان، وفائدة المستخدمين، بحيث تعطى الأولوية لزيادة رفاهية الانسان، وايجاد معايير اخلاقية لعمل أنظمة  الذكاء الاصطناعي.

إن “خصوصية” أنظمة  الذكاء لاصطناعي، تمثل النقطة الأساس لحث الفقه والقضاء والمشرع، على تطوير قواعد المسئولية المدنية، خاصة بعد ان اصبحت أنظمة  الذكاء الاصطناعي، من ضمن ضروريات الحياة الحديثة، حيث تتمتع بقدرات التسيير الذاتي والتفاعل مع محيطها الخارجي^([1]).

ومما لاشك فيه، إن التطور التكنلوجي في مجال أنظمة  الذكاء الاصطناعي، له تأثير على تصرفات الأنسان، وهو ما يدفعنا في هذه الدراسة، الى البحث في الإشكاليات القانونية الناتجة عن هذه التصرفات ومنها مدى إمكانية تطبيق احكام المسئولية المدنية والجنائية على أنظمة  الذكاء الاصطناعي، وهل ان المبرمج للذكاء الاصطناعي هو من يتحمل المسئولية القانونية عن افعال الذكاء الاصطناعي^([2]).

أهمية البحث:

إن أهمية هذه الدراسة تتمثل في قلة الدراسات السابقة التي تتناول بيان احكام هذا الموضوع، الذي بدأ استعماله بشكل متسارع، دون بيان الإطار القانوني للمسئولية المدنية والجنائية التي تسببها أنظمة  الذكاء الاصطناعي، خاصة مع المميزات التي يتمتع بها الذكاء الاصطناعي كقابليته للتعلم والتطور والاستقلال، حيث ان أنظمة  الذكاء الاصطناعي اصبحت تمثل مشكلة قانونية حقيقة، تستحق الدراسة، وبيان الاحكام الخاصة بها، وما هي البدائل التي وضعتها التشريعات المقارنة لمواجهة قصور القواعد القانونية في المسئولية المدنية والجنائية.

مشكلة البحث:

تتمحور مشكلة البحث، في أن أنظمة  الذكاء الاصطناعي قد اقتحمت حياة البشر السياسية والاقتصادية وحتى الاجتماعية، واصبحت هي التي تعمل وتفكر وتجد الحلول نيابة عن الانسان، لذا يثور التساؤل التالي: على من تقع المسئولية المدنية والجنائية التي تسببها أنظمة  الذكاء الاصطناعي؟ وهل تكفي القواعد القانونية الخاصة بهاتين المسئوليتين ليتم تطبيقها على ما تسببه أنظمة  الذكاء الاصطناعي من ضرر أو جريمة؟ أم يجب ان تكون هناك تشريعات خاصة تتناول مسألة تنظيم الاحكام الخاصة بأنظمة  الذكاء الاصطناعي؟

منهجية البحث:

لما كان المنهج القانوني المقارن من أفضل المناهج لإثراء الفكر القانوني والوقوف على مواطن الضعف والقوة في تشريعاتنا الوطنية، فقد اعتمد الباحث على هذا المنهج، لإجراء مقارنة بين التشريعات المختلفة محل الدراسة، لغرض الوقوف على أوجه التشابه، والاختلاف بين تشريعات هذه الدول، للوصول الى أفضل النظم التي يمكن الاستفادة منها وتطبيقها في المجال القانوني.

تقسيم البحث:

قسم الباحث هذه الدراسة الى مطلبين، المطلب الأول بعنوان (ماهية أنظمة  الذكاء الاصطناعي)، تناولنا في الفرع الأول (مفهوم أنظمة  الذكاء الاصطناعي) وفي الفرع الثاني (الأساس التشريعي للذكاء الاصطناعي) اما المطلب الثاني فقد كان بعنوان (المسئولية القانونية الناجمة عن أنظمة  الذكاء الاصطناعي)، تناولت في الفرع الأول (المسؤولية المدنية الناجمة عن أنظمة  الذكاء الاصطناعي)، والفرع الثاني بعنوان (حماية المستهلك في ظل الذكاء الاصطناعي).

المطلب الأول: الإطار المفاهيمي للذكاء الاصطناعي

بدأت مناقشة ظاهرة الذكاء الاصطناعي، في إطار القانون منذ بداية الستينات من القرن الماضي، وقد اخذ هذا الموضوع باهتمام متزايد من قبل المتخصصين منذ العام 2010، ويعود السبب في ذلك هو الاستخدام اليومي والمتكرر في الحياه اليومية، لتطبيقات الذكاء الاصطناعي، بما يعود بالتحديات القانونية المحددة التي تفرضها هذه التكنولوجيا، حيث ان الذكاء الاصطناعي وفي الوقت الحاضر، يؤدي دوراً هاماً في التوجه الاوروبي نحو التشغيل الآلي، ومن المفترض ان الذكاء الاصطناعي سيؤدي الى تغيير اسلوب العمل الاقتصادي للشركات، بما يؤدي الى احداث اثراً كبيراً في المجتمع، لذا كانت هناك مساعٍ حثيثة لتنظيم مجال الذكاء الاصطناعي ذاته، ثم تعيين حدوده، للحيلولة دون تطور ما يعرف “بالذكاء الاصطناعي العام” اي نظام “الذكاء” المماثل لقدرة البشر الذهنية، او حتى التفوق عليها^([3]).

يهدف الذكاء الاصطناعي الى محاولة فهم “الذكاء الاصطناعي” من خلال انشاء برامج للحاسب الآلي، قادرة على محاكاة السلوك الإنساني المتسم بالذكاء، بإمكانهُا اتخاذ قرار، او موقف معين، بناءً على وصف لهذا الموقف، على ان تقوم هذه الآلات بإيجاد حل لهذه المسالة، من خلال اتخاذ القرار بالرجوع الى العمليات الاستدلالية المتنوعة، التي سبق وان تم تزويد البرنامج بها^([4]).

الفرع الأول: تحديد أنظمة  الذكاء الاصطناعي

يثير الاستخدام الواسع النطق للذكاء الاصطناعي وتطبيقاته المتزايدة، التساؤل عن المسئولية الناجمة عن هذا الاستخدام، ومدى كفاية القواعد العامة، للتعويض عن الاضرار التي تسببها هذه التطبيقات، لذا يلاحظ ان المشرع الفرنسي يمتنع عن التدخل عن اقرار تشريع خاص ينظم الجوانب القانونية، للمسئولية الناجمة عن استخدام الذكاء الاصطناعي، وهو ما كان واضحاً في الاقتراح المقدم بقانون الى مجلس الشيوخ بخصوص اصلاح نظام المسئولية في العام 2020، إذ لم يتضمن اي إشارة الى الذكاء الاصطناعي .. لذا نتناول في هذا الفرع ما يلي:

 أولاً: تعريف الذكاء الاصطناعي:  لا يوجد تعريف شامل جامع مانع للذكاء الاصطناعي، إلا إنهُ تم تعريفه بأنهُ “علم وهندسة صناعة الآلات الذكية” او “فرع علوم الحاسوب الذي يهدف الى إنشاء ألآت ذكية” حيث ان الذكاء الاصطناعي كمفهوم، يصعب تعريفهُ بدقة، فهو الجزء الحسابي الذي يمنح القدرة على تحقيق الاهداف حولنا^([5])، كما تم تعريفهُ بأنهُ دراسةٌ لجعل اجهزه الكمبيوتر تؤدي اشياء يقوم بها الانسان بطريقة افضل”^([6])، ويعرف ايضاً “فرع من علوم الكمبيوتر يتعامل مع الرموز والطرق الغير حسابية لحل مشكلة^([7]).

ومن خلال ما تقدم، فإنهُ يمكن للباحث تعريف الذكاء الاصطناعي بأنهُ “تطبيقات ذكية تعتمد التفكير الذاتي المتطور لغرض القيام بعمل معين بصورة مستقلة عن تدخل الانسان بناءً على معلومات وبيانات مزودة بها من قبل الانسان”، ذلك ان الغاية الاساسية للذكاء الاصطناعي، هو فهم العملية الذهنية الشائكة التي يقوم بها العقل البشري، اثناء التفكير، وترجمة هذه العمليات الى عمليات حسابية تؤدي الى زياده قدرة الحاسب الآلي على حل العمليات الشائكة^([8])، ولكي نطلق مصطلح “الذكاء الاصطناعي” على أنظمة  الكمبيوتر، لابد ان تتوافر فيها مجموعه من الخصائص:

• القدرة على تحليل وجمع البيانات والمعلومات، وايجاد علاقه بينهما لاتخاذ قرار.
• القدرة على التفكير والادراك، لغرض حل المشاكل في ظل غياب المعلومة الكاملة.
• القدرة على التعلم من الاخطاء، والخبرات السابقة والتجارب، من اجل استعمالها في مواقف جديدة^([9]).

الفرع الثاني: الأساس التشريعي للذكاء الاصطناعي

 سوف نتناول في هذا الفرع بيان التطور التاريخي للمواجهة التشريعية لجرائم الذكاء الاصطناعي في (أولاً) ثم نبين بعد ذلك الاساس القانوني للذكاء الاصطناعي (ثانياً) كالتالي:

أولاً: التطور التاريخي لأنظمة  الذكاء الاصطناعي:

 إن التطور الحاصل في مجال أنظمة  الذكاء الاصطناعي، يفرض في ذات الوقت تطور اخلاقي وتشريعي، من اجل وضع القوانين والتشريعات التي تواكب التطور الحاصل في مجال أنظمة  الذكاء الاصطناعي، اذ ان الحاجة اصبحت ملحة وضرورية الى وضع تشريعات تنظم عمل أنظمة  الذكاء الاصطناعي، إذ بدأ الاهتمام بالجانب الاخلاقي و كذا الجانب التشريعي لمواجهة المخاطر الناتجة عن عمل أنظمة  الذكاء الاصطناعي على الانسان، حيث ان أنظمة  الذكاء الاصطناعي يجب ان يحكمها مبدأ هام، في إنها تبقى خاضعة لسيطرة البشر، بالرغم من تمتعها بقدراتها وامكانياتها، وهنا ظهرت قوانين “الروبوتات الثلاث” او قوانين “اسيموف” والتي يفرض من خلال هذه القوانين، ضوابط حول كيفية برمجة وصنع وتطوير أنظمة  الذكاء الاصطناعي، ومن هذه المبادئ الاخلاقية مبدأ “التزام أنظمة  الذكاء الاصطناعي بعدم إيذاء البشر”، من اجل ضمان عدم قيامها بأي فعل او سلوك يمثل تهديداً للبشر، كذلك مبدأ “سيطرة الإنسان على أنظمة  الذكاء الاصطناعي”، اي إنهُ في جميع الاحوال يجب ان تبقي أنظمة  الذكاء الاصطناعي تعمل تحت سيطرة الانسان، دون السماح لها بالعمل الذاتي، في سبيل تفادي وقوع أي سلوك يشكل جريمة، او اي فعل يسبب ضرراً للغير، ايضاً “التزام أنظمة  الذكاء الاصطناعي بالمحافظة على بقائها”، اي الحفاظ على نظم الذكاء الاصطناعي وتحديثها وتطويرها مع مراعاة المبادئ السابقة، وبالرغم من اهمية هذه المبادئ، إلا إنهُ كنتيجة طبيعية لتطور أنظمة  الذكاء الاصطناعي فقد حرصت العديد من التشريعات على وضع مبادئ اخلاقية تتلاءم مع التطورات الجديدة، حيث اصدرت منظمة الذكاء الاصطناعي في العام 2018، عدداً من المبادئ التوجيهية الاخلاقية، للذكاء الاصطناعي، منها مبدأ “عدم التحيز”^([10])، ومبدأ “المسائلة والمسؤولية”^([11])، ومبدأ “العدل”^([12])، ومبدأ “الصدق”^([13])، وان تكون “جديرة بالثقة”^([14]). اما بالنسبة لموقف الاتحاد الاوروبي، فقد عمد ايضاً الى وضع العديد من التوصيات بشان قواعد القانون المدني المطبقة على أنظمة  الذكاء الاصطناعي، وكان ذلك في العام 2017، كما صدرت في العام 2019، مجموعه من الإرشادات حول الكيفية التي يجب على الحكومات والشركات اتباعها عند تطوير تطبيقات الذكاء الاصطناعي^([15]).

ثانياً: التطور التشريعي لنظام الذكاء الاصطناعي:

 رغبة من المشرع الفرنسي، وكذلك المشرع الاوروبي، لمواكبة التطور الهائل في مجال التكنولوجيا، فقد عمدت الكثير من التشريعات الى اصدار قوانين خاصة بالروبوتات والذكاء الاصطناعي، حيث اصدر المشرع الأوربي في العام 2017، قانون خاص بالروبوتات، الغى فيه وصف “الشيء” بالنسبة للروبوت، واستخدم مصطلح “النائب الالكتروني او الإنساني”، ثم اصدر الاتحاد الاوروبي في عام 2019، مجموعة إرشادات حول بيان كيفية تطوير تطبيقات الذكاء الاصطناعي سابق الإشارة اليها، اما الولايات المتحدة الامريكية، فقد اصدرت قانون “مستقبل الذكاء الاصطناعي وآفاقهُ في العالم” في العام 2017، وهو أول قانون يتمحور حول نظم الذكاء الاصطناعي، اما بالنسبة لموقف المشرع البريطاني فقد تم تعيين لجنة مختارة حول الذكاء الاصطناعي، من قبل مجلس اللوردات في العام 2017، للنظر في الآثار الاقتصادية والاخلاقية والاجتماعية في مجال الذكاء الاصطناعي، في حين نجد ان البرلمان الاوروبي في العام 2018، اقترح على الدول الاعضاء في الاتحاد، وضع تشريع بشان الجوانب القانونية لتطوير استخدام الروبوت والذكاء الاصطناعي، ثم اصدر الاتحاد الأوروبي نصوصاً تكميلية، للائحة الأوروبية العامة لحماية البيانات الشخصية، التي تضع اطاراً للتدفق الحر للبيانات غير الشخصية في الاتحاد الأوروبي رقم 1807 لسنه 2018، بينما نجد إن المشرع المصري، قد صدر عن مجلس الوزراء القرار المرقم 2889 لسنه 2019، حول إنشاء مجلس وطني للذكاء الاصطناعي، يختص بوضع الخطط الوطنية حول الذكاء الاصطناعي، وتنفيذها، ومتابعتها، وتحديثها، لكي تتماشى مع التطورات الدولية^([16])، كما نجد ان دولة الإمارات العربية المتحدة، قد وضعت العديد من المبادئ والإرشادات حول أنظمة  الذكاء الاصطناعي، وضوابط استخدام الذكاء الاصطناعي^([17]).

المطلب الثاني: المسئولية القانونية الناجمة عن أنظمة  الذكاء الاصطناعي

تتقدم تكنلوجيا الذكاء الاصطناعي بشكل كبير في حياتنا اليومية في شتى المجالات، كالمجال الطبي والعسكري والقانوني والرياضي وغيرها من المجالات الأخرى، حيث يمكن ان تنجز هذه التكنلوجيا عملها بدقة وسرعة هائلة، إلا أنهُ يمكن ان تتسبب في أضرار جسيمة، وفي هذه الحال يصعب تحديد الشخص المسئول عن هذه الأضرار، لذا سوف يبين الباحث في هذا الجزء من الدراسة، تصورات حديثة للمسئولية بعد بيان احكامهما في مجال الذكاء الاصطناعي.

الفرع الأول: المسؤولية المدنية الناجمة عن أنظمة  الذكاء الاصطناعي

 كان لموضوع المسؤولية المدنية، محلاً لاهتمام متزايد في الفقه الفرنسي، سواء كانت المسؤولية تعاقدية او التقصيرية، فاذا كانت أنظمة  الذكاء الاصطناعي تقوم على اساس رابطة عقدية، كانت المسؤولية عقدية، اما المسؤولية التقصيرية فإنهُا تقوم على الافعال الضارة^([18]).

 ومن الناحية القانونية فإن فكرة المسؤولية المدنية، تقوم على عنصر الادراك، وهو كمال العقل والبلوغ، لذا فإن الشخص يكون مسؤول عن تصرفاته، حينما يرتكبُ فعلاً يخالف به القانون، ويرتب ضرراً للغير، فلا تقوم المسئولية دون إدراك، فالأمر يرتبط بالذكاء والإدراك والوعي^([19]).

وقد نص المشرع العراقي في م (202) من القانون المدني على إنهُ “كل فعل ضار بالنفس من قتل او جرح او ضرب او اي نوع أخر من انواع الايذاء يلزم بالتعويضات من احدث الضرر”^([20])، كما تنص م (204) من ذات القانون على إنهُ “كل تعدٍ يصيب الغير بأي ضرر غير ما ذكر في المواد السابقة يستوجب التعويض”^([21]).

 تشير هذه النصوص القانونية، الى القواعد العامة للمسؤولية التقصيرية، وهي الخطأ والضرر، والعلاقة السببية بين الخطأ والضرر، لذا لا يوجد اي انتفاء لمفهوم التعويض عن الضرر في حال تحققهُ، وهذا هو أساس فكرة قيام المسئولية التقصيرية والعقدية^([22]).

ويرى البعض من الفقه- إن القواعد العامة المنصوص عليها في المسئولية المدنية، كافية للإحاطة بمختلف حالات الخطأ والضرر الناجم عن أنظمة  الذكاء الاصطناعي، بينما يرى جانب اخر من الفقه- إن هذا التبسيط للأمور، وتطبيق القواعد العامة المنصوص عليها في نطاق المسئولية المدنية، فيهِ تجاهل للتطور الحاصل للذكاء الاصطناعي، نتيجة اقتحامهُ لعالم القانون، ناقلاً أنظمة  الذكاء الاصطناعي، من حيز الاشياء، الى حيز الاشخاص^([23])، حيث ذهب الفريق الأول من الفقه، الى القاعدة العامة في المسئولية العقدية بأن “العقد شريعة المتعاقدين”، وكذلك القواعد العامة المتعلقة بالمسؤولية عن الاشياء، وضمان العيوب الناشئة عن سوء التصنيع، حيث تضمن هذه القواعد مختلف حالات الخطأ والضرر^([24])، كما ان المسئولية التقصيرية عن استخدام أنظمة  الذكاء الاصطناعي، نص عليها المشرع الفرنسي في م (1242) من القانون المدني، باعتبار ان أنظمة  الذكاء الصناعي شيء خاضع للحراسة، يقع تحت تصرف المستخدم^([25]).

نخلص من ما تقدم، إنهُ في حال توافر عناصر المسئولية الثلاث كقاعدة عامة، فان المسئولية (العقدية والتقصيرية) تقوم ويترتب على ذلك آثار معينة، اهمها جبر الضرر الذي يترتب عليها (م 163) من القانون المدني المصري، فاذا ما تم استخدام أنظمة  الذكاء الاصطناعي على نحوٍ يلحق ضرراً بالأشخاص، فإنهُ ينبغي اصلاح هذا الضرر^([26])، ويرى الباحث –  ان قواعد المسئولية المدنية تكفى ليتم تطبيقها على ما تسببه أنظمة  الذكاء الاصطناعي من ضرر، بمناسبة استخدامها في الحياة اليومية المتزايدة والمختلفة لكن في انتظار صدور تشريع خاص ينظم عمل الذكاء الاصطناعي وان قواعد القانون المدني الأوربية بشأن الروبوتات تقر بعدم كفاية  الإطار القانوني الحالي لتنظيمها ولتنظيم المسئولية عن الأضرار الناجمة عن الأجيال المتقدمة من الروبوتات^([27]).

 الا ان البعض يرى ان هذا الرأي محل نظر، ذلك ان تطبيق أحكام المسئولية المدنية بنوعيها، على أنظمة  الذكاء الاصطناعي، لم يعد كافياً لمواجهة الأضرار التي يحدثها الذكاء الاصطناعي، كما إنهُا يتم تطبيقها على الشخص الطبيعي، عند اخلاله بالعقد، او بالالتزام، وليس على الذكاء الاصطناعي، على اعتبار ان الذكاء الاصطناعي لا يمكن ان يكون طرفاً في المسئولية المدنية^([28]).

 اما فيما يتعلق بأحكام المسئولية التقصيرية، فإن تطبيق أحكامها على أنظمة  الذكاء الاصطناعي، يواجه تحديات كبيرة، إذ يجب على المحاكم التي تواجه متطلبات المسئولية الناتجة عن افعال الذكاء الاصطناعي، ان تحدد الشخص الطبيعي والاعتباري المسؤول عن الضرر الناشئ عن تلك الافعال، إلا إنهُ وبسبب تطور والاستقلالية في مجال الذكاء الاصطناعي، يجعل من الصعب تقييم أساس المسئولية، إذا لم يكن ذلك مستحيل احياناً^([29]).

الفرع الثاني: حمايه المستهلك في ظل الذكاء الاصطناعي

 المستهلك: “هو الشخص الطبيعي او المعنوي الذي يتزود بسلعة او خدمة بقصد الإفادة منها”^([30])، وتهدف قوانين حمايه المستهلك الى تحديد القواعد العامة، التي تحرص على حماية المستهلك بوصفه الطرف الضعيف في الرابطة العقدية، كالالتزام بمطابقة السلع والخدمات للمواصفات المطلوبة، وقد نتج عن التطور العلمي، منتجات وسلع وخدمات يغلب عليها طابع التعقيد، غيّر من طبيعتها وطبيعة الاضرار التي تسببها للمستهلك، ليجد الاخير نفسه في علاقة عقدية تفتقد الى التوازن، لذا ظهرت الحاجة ملحة الى حماية المستهلك في ظل زيادة استعمال واستخدام أنظمة  الذكاء الاصطناعي^([31]).

حيث نصت قوانين الاستهلاك على واجبات المحترف تجاه المستهلك، من اجل توفير اكبر قدر ممكن من الحماية، فقد حددت (م 4) من قانون حماية المستهلك اللبناني هذه الواجبات، كذلك نص المشرع العراقي على التزام المجهز في (م 7) من قانون حماية المستهلك العراقي رقم (1) لسنة 2010، و أهم هذه الالتزامات وهو تزويد المستهلك بالمعلومات الاساسية حول تقدير الاخطار المرتبطة باستعمال الخدمة أو السلعة، وان يبين الطريقة المناسبة لاستعمال هذه السلع والخدمات، وكذلك التحذير من مخاطر الاستعمال المخالف، وبالتالي يجب على منتجي التطبيقات الذكية إصدار تحذيرات دقيقة ومفصلة، حول الاحتياطات التي يجب على المستخدم اتخاذها، وعلى وجه الخصوص فيما يتعلق بشأن المخاطر والقدرات التي تسمح لأنظمة  الذكاء الاصطناعي بتطوير سلوكيات جديدة^([32]). اخيراً يرى الباحث- إنهُ وبعد دخول أنظمة  الذكاء الاصطناعي في مختلف المجالات، وما يمكن ان تسببه من اضرار او جرائم، فإنهُ يجب ان يتم تطوير أنظمة  الذكاء الاصطناعي بصوره تمنع من التسبب بأضرار، او ارتكاب الجرائم، او بالحد منها على اقل تقدير، كذلك تحديث التشريعات المقارنة، ومنها التشريعات العراقية (القانون المدني وقانون العقوبات)، وتناولها بالتنظيم لهذه الظاهرة القانونية، التي اقتحمت الحياة الاقتصادية، والاجتماعية وحتى السياسية، لتحديد على من تقع المسؤولية عند ارتكاب أنظمة  الذكاء الاصطناعي فعلٌ يسبب ضرر او جريمة، حيث انتجت البشرية خلال الثلاث عقود الماضية، من معلومات، اكثر ما انتجته طوال تاريخها السابق، كما يضاف الى خطورة أنظمة  الذكاء الاصطناعي، هو انها اصبح بإمكانها ان تتوقع ما سيحدث مستقبلاً.

الخاتمة

تناول الباحث في هذه الدراسة في بيان ماهية أنظمة  الذكاء الاصطناعي، حيث تم تعريفه بأنه “علم وهندسة صناعة الآلات الذكية” وان أنظمة  الذكاء الاصطناعي مرت بمراحل تاريخية أدت الى تطوره ووصوله الى الحالة التي عليها اليوم ، كما ان التشريعات قد عمدت الى اصدار قوانين خاصة بأنظمة  الذكاء الاصطناعي وان هذه القوانين دائما ما تأتي بأحكام قانونية ادق من القوانين السابقة وبهذه الكيفية تطورت تشريعات الذكاء الاصطناعي، وقد كانت المسئولية الناجمة عن أنظمة  الذكاء الاصطناعي محل اهتمام التشريعات المقارنة ، لغرض تحديد على من تقع تلك المسئولية سواء كانت مدنية ام جنائية، وان بعض التشريعات محل الدراسة ترى بان القواعد العامة المنصوص عليها في القانون المدني تكفي ليتم تطبيقها على أنظمة  الذكاء الاصطناعي ، كما بين الباحث في هذه الدراسة تعريف المستهلك الذي تم تعريفه بأنه ” هو الشخص الطبيعي او المعنوي الذي يتزود بسلعة او خدمة بقصد الإفادة منها”،  وهو ما جاء به المشرع العراقي في م (1) من قانون حماية المستهلك، كما بيًن الباحث كيفية توفير حماية قانونية للمستهلك، وان دخول أنظمة  الذكاء الاصطناعي في العديد من المجالات قد يؤدي يسبب ضرر، وهو ما يستوجب تحديث التشريعات الوطنية والدولية من اجل إصدار تشريعات تنظم عمل أنظمة  الذكاء الاصطناعي. 

النتائج:

1. إن عدم وضع تعريف شامل ومانع وجامع، يؤدي الى اختلاف الفقه والمشرع في تحديد المعنى الحقيقي والدقيق لمفهوم (أنظمة  الذكاء الاصطناعي)، كما ان التطورات التكنلوجية تؤدي الى قيام بعض التشريعات الى إصدار قوانين او تعليمات تنظم من خلالها عمل أنظمة  الذكاء الاصطناعي.
2. في ظل غياب تشريعات، تتناول مسألة تنظيم عمل أنظمة  الذكاء الاصطناعي، فأن العمل يجري في المحاكم المختصة على تطبيق القواعد العامة في المسئولية المدنية والجنائية، على ما ينتج عن عمل الذكاء الاصطناعي من ضرر او جريمة، لتلافي إفلات المجرمون الجدد من العقاب. 

التوصيات:

1. على التشريعات الحديثة بما فيه التشريع العراقي، ان ينتفض من السبات الذي يسيطر على التشريعات العراقية منذ عقود من الزمن، وان يدرك ان مع التطورات التكنلوجية، اصبحت هناك ضرورة حتمية لتطوير واصدار تشريعات جديدة، ومنها تشريعات تتناول بالتنظيم عمل “أنظمة  الذكاء الاصطناعي”.
2. ضرورة ايقاع العقوبة على الروبوت او حتى مستخدمي تطبيقات الذكاء الاصطناعي المسبب للضرر او الجريمة، عن طريق اتلافه، وعدم الاكتفاء بفرض الغرامة او التعويض على الشخص الذي يتحكم في هذا النظام الذكي.

المصادر والمراجع:

 أولاً: باللغة العربية:

الكتب:

1. آلان بونيه، الذكاء الاصطناعي (واقعه ومستقبله) ترجمة علي صبري، عالم المعرفة، سلسلة يناير 1978، 1993.
2. عائشة بنت بطي، مبادئ وإرشادات أخلاقيات الذكاء لاصطناعي، دبي الذكية، الأخلاقيات، الإمارات العربية المتحدة، 2019.
3. محمد حسين عبد العال، مفهوم الطرف الضعيف في الرابطة العقدية، دراسة مقارنة، دار النهضة العربية القاهرة، مصر، 2007.
4. ياسر محمد اللمعي، المسئولية الجنائية عن أعمال الذكاء الاصطناعي ما بين الواقع والمأمول، كلية الحقوق – جامعة طنطا”، مصر.

الرسائل:

1. كريستيان يوسف، المسئولية المدنية عن فعل الذكاء الاصطناعي، رسالة ماجستير في القانون الخاص، الجامعة اللبنانية، 2020.
2. كريم علي سالم، حق المستهلك في العدول ، دراسة مقارنة، رسالة ماجستير – كلية الحقوق، جامعة الاسكندرية، 2018.

ثالثاً: البحوث

1. احمد فتحي الخولي، المسئولية المدنية الناتجة عن الاستخدام غير المشروع لتطبيقات الذكاء الاصطناعي، الديب فيك نموذجاً، مجلة البحوث الفقهية والقانونية، عدد36، أكتوبر، 2021.
2. عبد الرزاق وهبه سيد احمد محمد، المسؤولية المدنية عن اضرار الذكاء الاصطناعي، دراسة تحليلية، مركز جيل البحث العلمي، مجلة جيل الابحاث القانونية المعمقة، عدد 43، 2020.
3. عبدالله احمد مطر، المسئولية الجنائية عن اخطاء الذكاء الاصطناعي، المجلة القانونية، مجلة متخصصة في الدراسات والبحوث القانونية.
4. كريم علي سالم، الالتزام بالمطابقة في التشريع العراقي، مجلة العلوم الانسانية والطبيعية، مجلد2، عدد24، 2021.
5. محمد السعيد السيد محمد، نحو إطار قانوني شامل للمسئولية المدنية من أضرار نظم الذكاء الاصطناعي غير المراقب، المؤتمر الدولي السنوي العشرون، كلية الحقوق- جامعة المنصورة، مصر، 2021.
6. محمد صديق محمد وساره احمد حمد، قواعد المسئولية التقصيرية الشخصية بين القوانين العراقية والقوانين المعاصرة، مجلة الرافدين للحقوق، مجلد15، عدد2، السنه17، 2011.
7. محمد عرفان الخطيب، المركز القانوني للإنسالة، الشخصية والمسؤولية-  دراسة تأصيلية، مقارنة مجلة كلية القانون الكويتية العالمية، السنه 6، عدد4.
8. منصور حاتم محسن واسامه شهاب احمد، نطاق التزام المنتج بتتبع منتجاته، دراسة مقارنة، مجلة المحقق الحلي للعلوم القانونية، عدد 4، لسنة 12، 2010.

اربعاً: المراقع الالكترونية

1. سالم الفاخري، سيكولوجية الذكاء، مركز الكتاب الاكاديمي، الاردن، 2018:

      www.myreaders.info/html/artificial-intelligence.html

• قرار مجلس الوزراء المصري رقم 2889 ، بشأن إنشاء مجلس وطني الذكاء الاصطناعي، نشر في الجريدة الرسمية، العدد 47 مكرر، في 24/ 11/ 2019.
• الجوانب القانونية للعقود الذكية والذكاء الاصطناعي، ورقة مقدمة من دولة تشيكيا الى لجنة الأمم المتحدة للقانون التجاري الدولي، الدورة الحادية والخمسون، الجمعية العامة في 25/جزيران/2018 ، متاح على الرابط التالي:  www.digitallibrary.un.org
• فهد القاسم، الذكاء الاصطناعي، متاح على الرابط التالي:

 www.myreaders.info/html/artificial-intelligence.html

ثانياً: المصادر باللغة الانجليزية:

1. 1-    “France intelligence artificielle” Rapport de Synthése prepare Par legouvernement franĈais, voir aussi, G. loiseau et A. martinon, le machinisme intelligent, les Cahiers sociaux, 2017.
2.  A. Bensamoun et G. Loiseau, L’intelligence artificielle ; faut – il Légiférer,D . 2017.
3. A. Santosuosso et al., “Robots, Market and Civil Liability; A European Perspective”, IEEE RO – MAN; the 21 st IEEE international Symposium on Robot and human interactive Communication, 2012.
4. 4-     B.G. Buchanan, E. H. Shortliffe, Rule – Based Expert Systems the mycin Experiments of the Stanford Heuristic Programming Project, Addison-wesley Publishing Company, 1984.
5. Brossollet, C.Jaegy and L.Daniele, “Responsabilite Civil e et Intelligence artificelle”, Atelier Clinique Juridique, 2019.
6. Courois G., “Robot et Responsabilite” in Bensamoun A. les Robots, Objets Scientifiques, Objets de droit, Mare & Martin Sceaux, 2016.
7.  E. Rich, Artificial Intelligence and the Humanities, Press, 1985 
8. Sylvain métille, Nicolas Guyot, le moment est venu de juridique aux robots, revue Plaidoyer, 2015.
9. Thibault de Ravel d’esclapon, intelligence artificielle nouvelle resolution du Parlement earopéen 20 Févier 2019, Résolution sur une politique indutrielle Européenne globale sur l’intelligence artificielle, 12 févier 2019.

---

[1])) محمد السعيد السيد محمد، نحو إطار قانوني شامل للمسئولية المدنية من أضرار نظم الذكاء الاصطناعي غير المراقب، المؤتمر الدولي السنوي العشرون، كلية الحقوق- جامعة المنصورة، مصر، 2021، ص45.

[2])) ياسر محمد اللمعي، المسئولية الجنائية عن أعمال الذكاء الاصطناعي ما بين الواقع والمأمول، كلية الحقوق – جامعة طنطا”، مصر، ص2.

[3])) الجوانب القانونية للعقود الذكية والذكاء الاصطناعي، ورقة مقدمة من دولة تشيكيا الى لجنة الأمم المتحدة للقانون التجاري الدولي، الدورة الحادية والخمسون، الجمعية العامة في 25/جزيران/2018، ص3 دراسة منشورة على الموقع: www.digitallibrary.un.org

اخر زيارة 17/11/2022 

[4])) حيث يعتبر العالم الامريكي “جون ماكارتي” هو الذي صك مصطلح الذكاء الاصطناعي في العام 1956، للمزيد راجع: آلان بونيه، الذكاء الاصطناعي (واقعه ومستقبله) ترجمة علي صبري، عالم المعرفة، سلسلة يناير 1978، 1993، ص11 وما بعدها.

[5])) فهد القاسم، الذكاء الاصطناعي، متاح على الرابط التالي: www.myreaders.info/html/artificial-intelligence.html

تاريخ اخر زيارة 17/11/2022

)[6])E. Rich, Artificial Intelligence and the Humanities, Press, 1985, P.117.  

 [7]  B.G. Buchanan, E. H. Shortliffe, Rule– Based Expert Systems the mycin Experiments of the Stanford Heuristic Programming Project, Addison-wesley Publishing Company ,United States 1984, P.3.

[8])) سالم الفاخري، سيكولوجية الذكاء، مركز الكتاب الاكاديمي، الاردن، 2018، ص120 وما بعدها. 

[9])) حيث ليس كل انسان آلي قادر على التفكير، فحتي تثبت له تلك الصفة لا بد ان تتوافر لديه القدرة على التحليل والتعلم من البيئة التي يوجد فيها، بحيث يمكن ان يحلل بيانات، والوقوف على حجم المشكلة، ثم اتخاذ القرار، للمزيد راجع: عبد الرزاق وهبه سيد احمد محمد، المسؤولية المدنية عن اضرار الذكاء الاصطناعي، دراسة تحليلية، مركز جيل البحث العلمي، مجلة جيل الابحاث القانونية المعمقة، عدد 43، 2020، ص18 وما بعدها.

[10])) بأن تعمل على عدم التمييز أو العمل بعنصرية ضد مجموعة من الافراد.

[11])) اي ان تكون هناك مسائلة ومسئولية عن نتائج اعمال الذكاء الاصطناعي عند حدوث جريمة أو ضرر مباشر او غير مباشر، والعمل على تقليل المخاطر المتوقعة.

[12])) من أجل ان لا تتدخل أنظمة الذكاء الاصطناعي في أنظمة الحكم الديمقراطي وتعمل على قمع حقوق الانسان على نحوٍ يخالف ما جاء في الاعلان العالمي لحقوق الانسان 1948.

[13])) لكي يتم اتخاذ القرارات المستنيرة بعد توفير المعلومات الصحيحة والدقيقة وبطريقة واضحة وشفافة.

[14])) بأن يتم استخدام البيانات المستمدة من الذكاء الاصطناعي واستخدامها وفقاً للمبادئ المنصوص عليها في هذا التوجيه الاخلاقي، للمزيد راجع: ياسر محمد اللمعي، المسئولية الجنائية عن اعمال الذكاء الاصطناعي ما بين الواقع والمأمول، كلية الحقوق – جامعة طنطا، مصر، دون سنة نشر، ص9 وما بعدها.

[15])) من هذه التوصيات هو التحكم والرقابة البشرية لأنظمة الذكاء الاصطناعي، الدقة والامن والسلامة المهنية لأنظمة الذكاء الاصطناعي، الالتزام بحماية خصوصية البيانات الشخصية، التزام أنظمة عمل الذكاء الاصطناعي بالشفافية، الالتزام بالتنوع، وعدم التمييز، وغيرها من التوصيات، مع بيان ان البرلمان الاوربي قرر في 2019، الى ضرورة وضع إطار قانوني يحكم عمل أنظمة الذكاء الاصطناعي، للمزيد راجع: الاتحاد الاوروبي، قواعد اخلاقيات الذكاء الاصطناعي، ابريل 2019.

• Thibault de Ravel d’esclapon, intelligence artificielle nouvelle resolution du Parlement earopéen 20 Févier 2019, Résolution sur une politique indutrielle Européenne globale sur l’intelligence artificielle, 12 févier 2019.

[16])) قرار مجلس الوزراء المصري رقم 2889 ، بشأن إنشاء مجلس وطني الذكاء الاصطناعي، نشر في الجريدة الرسمية، العدد 47 مكرر، في 24/ 11/ 2019.

[17])) عائشة بنت بطي، مبادئ وإرشادات أخلاقيات الذكاء لاصطناعي، دبي الذكية، الأخلاقيات، الإمارات العربية المتحدة، 2019، ص6؛ ياسر محمد اللمعي، المرجع السابق، ص11.

)[18]) Sylvain métille, Nicolas Guyot, le moment est venu de juridique aux robots, revue Plaidoyer, 2015, P.26.

[19])) محمد عرفان الخطيب، المركز القانوني للإنسالة، الشخصية والمسؤولية- دراسة تأصيلية، مقارنة مجلة كلية القانون الكويتية العالمية، السنه 6، عدد4، ص120 وما بعدها.

[20])) نص المادة (202) من القانون المدني العراقي  رقم 40 لسنة 1951.

[21])) نص المادة (204) من القانون المدني العراقي رقم 40 لسنة 1951، ويقابلها نص المادة (199) من القانون المدني القطري.

[22])) محمد صديق محمد وساره احمد حمد، قواعد المسئولية التقصيرية الشخصية بين القوانين العراقية والقوانين المعاصرة، مجلة الرافدين للحقوق، مجلد15، عدد2، السنه17، 2011، ص133.

[23])) محمد عرفان الخطيب، المرجع السابق، ص42.

[24])) اكد هذا التوجه التقرير الصادر عن المحكمة الفرنسية لعام 2017، الذي استعمل مصطلح “الأشياء الذكية” بدلاً من “الروبوتات”، على اعتبار ان النصوص القانونية المتعلقة بقواعد المسئولية المدنية عن فعل الاشياء في القانون المدني الفرنسي، كافية لتشمل مختلف الحالات القانونية التي قد تثيرها استخدام أنظمة الذكاء الاصطناعي، للمزيد راجع:

• –        “France intelligence artificielle” Rapport de Synthése prepare Par legouvernement franĈais, voir aussi, G. loiseau et A. martinon, le machinisme intelligent, les Cahiers sociaux, 2017, n°293, P.55.

)[25])  Courois G., “Robot et Responsabilite” in Bensamoun A. les Robots, Objets Scientifiques, Objets de droit, Mare & Martin Sceaux, 2016, P.135.

[26])) احمد فتحي الخولي، المسؤولية المدنية الناتجة عن الاستخدام غير المشروع لتطبيقات الذكاء الاصطناعي، الديب فيك نموذجاً، مجلة البحوث الفقهية والقانونية، عدد36، أكتوبر، 2021، ص263.

[27])) حيث ان أنظمة الذكاء الاصطناعي، هي مجرد منتجات أو سلع، يتم تسليمها وفقاً لمعايير العقد المبرم بين المنتج والمستهلك (المشتري)، للمزيد راجع:

• A. Santosuosso et al., “Robots, Market and Civil Liability; A European Perspective”, IEEE RO – MAN; the 21 st IEEE international Symposium on Robot and human interactive Communication, 2012, P.6.

[28])) عبد الرزاق وهبه سيد احمد محمد، المسئولية المدنية عن اضرار الذكاء الاصطناعي، المرجع السابق، ص22.

[29])) تنص م (1242) من القانون المدني الفرنسي الصادر 2016، بأن الشخص لا يسال عن الاضرار الناجمة عن فعله الشخصي فحسب، بل يسأل أيضاً عن الضرر الناتج عن فعل الاشخاص الذين يسأل عنهم، وعن الأشياء التي في حراسته، ويقابل هذا النص م (178) من القانون المدني المصري، للمزيد راجع: عبد الرزاق وهبه سيد احمد محمد، المرجع السابق، ص23 وما بعدها.

• Brossollet, C.Jaegy and L.Daniele, “Responsabilite Civil e et Intelligence artificelle”, Atelier Clinique Juridique, 2019, P.3.

 اما في ما يتعلق من المسئولية الجنائية، عن استخدام أنظمة الذكاء الاصطناعي إذ الانتشار الواسع لاستخدام الذكاء الاصطناعي، سوف تزيد الجرائم المتعلقة بالذكاء الاصطناعي، صعوبة تحديد المسئولية الجناية، لذا بات ضرورياً بحث المسئولية الجنائية في هذا البحث، وعلى من تقع هذه المسؤولية، لتحديد المرتكب الحقيقي للجريمة، لتطبيق العقوبة المقررة بحقه، من اجل رد تلك الوقائع الى القوانين التي تجرمها، حيث ان الجرائم المرتكبة بواسطة أنظمة الذكاء الاصطناعي، تتميز بسهولة ارتكابها وصعوبة إثباتها امام الجهات المختصة، فلم يعد كافياً لقيام المسئولية الجزائية، ان يرتكب الجاني فعلاً مادياً يرتب نتيجة ضارة، وإنما لابد من توافر شروط يفرضها الفقه الجنائي المعاصر، على إنهُا نشاط مادي، ونفسي، مخالف لأهداف الجماعة، وتكتسب صفاتها غير مشروعة من مخالفتها لقاعدة قانونية تجرم هذا النشاط، لذا لابد من توافر الركن المادي والمعنوي، إذ لا تقوم الجريمة إلا بهاتين الشرطين معاً، حيث ان هذه المسئولية تقوم عند صدور خطأ (فعل) من الجاني نفسه، ومن غير المقبول معاقبة إنسان لم يرتكب فعلاً معاقب عليه قانوناً، استنادا الى القاعدة القانونية التي تقضي بأنهُ “لا جريمة ولا عقوبة إلا بنص”، وللمزيد راجع: عبد الله احمد مطر، المسئولية الجنائية عن اخطاء الذكاء الاصطناعي، المجلة القانونية، مجلة متخصصة في الدراسات والبحوث القانونية، ص290- 2889. وبالتالي يرى الباحث – بأن القواعد المنصوص العامة عليها في نطاق المسئولية الجنائية، يمكن تطبيقها في الظروف العادية، في حالة ارتكاب جريمة بواسطة انظمة الذكاء الاصطناعي، إلا ان العقوبة في هذه الحالة يجب ان تقع على من له سلطة التحكم في أنظمة الذكاء الاصطناعي، مع ضرورة تشريع قانون خاص بأنظمة الذكاء الاصطناعي مستقبلا لمواكبة التطورات الحاصلة في مجال أنظمة الذكاء الاصطناعي.

[30])) نص م (1) من قانون حمايه المستهلك العراقي رقم (1) لسنة 2010؛ يقابله نص م (1) من قانون حمايه المستهلك المصري رقم (181) لسنه 2018؛ وكذلك نص م (2) من قانون حمايه المستهلك اللبناني رقم (159) لسنة 2005؛ اما المشرع الفرنسي فقد تحفظ على وضع تعريف للمستهلك، مما دفع الفقه والقضاء لبيان مفهوم المستهلك، فقد عرفه بعض الفقه بأنهُ “ذلك الشخص الذي لأجل احتياجاته الشخصية غير المهنية، يصبح طرفاً في عقد للتزود بالسلع والخدمات”، اما القضاء، فقد عرفته محكمة النقض الفرنسية بأنهُ “هو الذي يصبح طرفاً في عقد يتعلق بالتزود بالسلع والخدمات، لأجل اشباع حاجاتهُ الشخصية”، للمزيد راجع: رسالة الباحث، حق المستهلك في العدول ، دراسة مقارنة، رسالة ماجستير – كلية الحقوق، جامعة الاسكندرية، 2018، ص ؛ محمد حسين عبد العال، مفهوم الطرف الضعيف في الرابطة العقدية، دراسة مقارنة، دار النهضة العربية القاهرة، مصر، 2007؛ منصور حاتم محسن واسامه شهاب احمد، نطاق التزام المنتج بتتبع منتجاته، دراسة مقارنة، مجلة المحقق الحلي للعلوم القانونية، عدد 4، لسنة 12، 2010، ص152.

[31])) كريم علي سالم، الالتزام بالمطابقة في التشريع العراقي، مجلة العلوم الانسانية والطبيعية، مجلد2، عدد24، 2021، ص432 وما بعدها.

[32])) يقابلها نص المواد من (3-12) من قانون حماية المستهلك المصري رقم (181) لسنة 2018؛ (م 7) من قانون حماية المستهلك العراقي؛ (م 4) من قانون حماية المستهلك اللبناني؛ للمزيد راجع: كريستيان يوسف، المسئولية المدنية عن فعل الذكاء الاصطناعي، رسالة ماجستير في القانون الخاص، الجامعة اللبنانية، 2020، ص84 وما بعدها.