نقاشات متزايدة بدأت تدور داخل الدوائر القضائية والسياسية والصناعية حول الملابسات القانونية التي تحيط بتطورات الذكاء الاصطناعي، حيث سيشيع في غضون بضعة عقود استخدام السيارات ذاتية القيادة والروبوتات الذكية في مجال الصناعة والآلات التي تعمل بشكل مستقل عن الإنسان. وبدأ الباحثون في مجال القانون بالفعل في دراسة تساؤلات بعيدة المدى حول الآثار القانونية لعمل الروبوتات، حيث أن القانون الجنائي يقوم على مبدأ الجريمة الفردية، في الوقت الذي لا تمتلك فيه الآلات وعيا أو ضميرا. وما زالت المسائل العملية المتعلقة بالقانون المدني سائدة، خاصة فيما يتعلق بالسيارات ذاتية القيادة بالكامل أو في بعض عملياتها. في هذا السياق يقول نيكولاس وولتمان، المساعد في مركز أبحاث قانون الروبوت بجامعة فيرزبورغ بألمانيا، إن "قائد السيارة يكون في الوقت الحالي مسؤولا أيضا عن الحوادث المتعلقة بسيارته حتى ولو لم يكن متورطا فيها، ولكن هل من الصائب توجيه اتهام جنائي لشخص عندما يكون الذكاء الاصطناعي هو المسؤول عن قيادة السيارة ومتحكما فيها؟". ويضيف إن "الشركة يمكن أن تكون أيضا مسؤولة عن الحوادث في القانون المدني" بعكس القانون الجنائي، ويوضح أن "الأفراد فقط يمكنهم ارتكاب جرائم وليس الشركات أو الآلات". ولمواجهة هذه المشكلة طرح خبراء المسائل الأخلاقية والقانونية مفهوم "السيطرة البشرية ذات المغزى" حيث تقول سوزان بيك، أستاذ القانون الجنائي وفلسفة القانون بجامعة هانوفر الألمانية: "قبل إلقاء المسؤولية الجنائية على شخص ما يجب إلقاء نظرة متفحصة على ما إذا كان قد مارس أية سيطرة على الآلة ولكن يمكن للتعامل مع عدم القدرة على عقاب الآلات في حالة تسببها في حوادث أن يهدد استقرار المجتمع، وفي هذا الصدد يقول وولتمان "على المستوى الفردي فمن المؤكد أن عدم القدرة على توجيه اتهام جنائي بعد وقوع حادث خطير سيكون أمرا غير مقبولا، وهذا يمثل مأزقا". سوزان بيك ترى "أنه قد يتعين علينا إلى حد كبير أن نتخلى مستقبلا عن إصدار أحكام قضائية حول الحوادث التي تتسبب فيها الآلات"، وتقر بأنه "من المؤكد أن عدم إمكانية العثور على عقوبة سيكون أمرا مزعزعا لاستقرار المجتمعات". وتقترح "التفكير في حلول أخرى، مثل التوسط بين الضحية ومرتكب الجريمة أو حلول تتضمنها أنظمة قانونية أخرى مثل القانون المدني". وحسب وولتمان فقد بدأ الباحثون في مجال القانون على سبيل التجربة في مناقشة ما إذا كان "ينبغي علينا، أن نتخلى عن المبدأ الذي يقول إن الأفراد وحدهم هم الذين يمكنهم التصرف بشكل يمثل جريمة". ويتابعالرأي السائد هو أنه في المرحلة الحالية من التطور التكنولوجي ليست هناك ضرورة للتخلي عن القاعدة القانونية الراسخة". ويتحدث وولتمان عن وجود "منطقة رمادية يمكننا من خلالها أن نتكهن بكيفية تطور الاجتهاد التشريعي في المستقبل، وقد تكون هذه المنطقة الرمادية مقبولة من المجتمع بشكل عام في حالة تراجع عدد الحوادث المرورية، عندما تصبح السيارات ذاتية القيادة أكثر انتشارا نتيجة فوائدها الكلية للمجتمع". غير أن هذا لن يمثل عزاء لضحايا الحوادث وأسرهم. فعلى المستوى الفردي يتابع وولتمان من المؤكد أن عدم القدرة على توجيه اتهام جنائي بعد وقوع حادث خطير سيكون أمرا غير مقبولا، وهذا يمثل مأزقا.
