إدراك المخاطر ، المسؤولية التقصيرية ، والتقنيات الناشئة

يحمل الذكاء الاصطناعي وإنترنت الأشياء والتقنيات الروبوتية وعودًا كبيرة لتحسين حياتنا من خلال منتجات أكثر أمانًا وتقنيات طبية جديدة. تقلل السيارات ذاتية القيادة من الحوادث التي تسببها الأخطاء البشرية. تتطلب العمليات الجراحية بمساعدة الروبوت الحد الأدنى من الشقوق وتسمح بالتعافي بشكل أسرع. تمكّن المنتجات الذكية المتصلة بالإنترنت المنتجين من توصيل مخاطر السلامة للمستخدمين وربما إصلاح المشكلات في الوقت الفعلي. في الوقت نفسه ، قد تفرض هذه التقنيات الجديدة أيضًا مخاطر جديدة للضرر: قد يجعل الاتصال الأنظمة عرضة للهجمات الإلكترونية ، وقد تجعل طبيعة التعلم الذاتي والطبيعة الغامضة لخوارزميات التعلم الآلي المشاكل صعبة التنبؤ أو التشخيص ، وتعقيد يمكن أن يجعل تكامل النظام وسلسلة القيمة عمل المنتج أكثر اعتمادًا على أداء الآخرين. في هذا السياق ، يتصارع المشرعون في مختلف البلدان مع الأسئلة حول ما إذا كان الإطار القانوني الحالي للسلامة والمسؤولية قادرًا على حماية المستهلكين بشكل كاف وإلى أي مدى.





في فبراير 2020 ، أصدرت المفوضية الأوروبية ملف تقرير عن تداعيات السلامة والمسؤولية على الذكاء الاصطناعي وإنترنت الأشياء والروبوتات ، الذي يوفر مناقشة شاملة لهذه القضايا. الرسالة الشاملة للتقرير هي أن الأطر الحالية للسلامة والمسؤولية يمكن أن تتعامل مع العديد من جوانب هذه التقنيات الناشئة ، ولكن هناك فجوات مهمة يحتاج صانعو السياسات إلى معالجتها لضمان حماية المستهلك وتشجيع الابتكار التكنولوجي.



في هذه المقالة ، نناقش العديد من الدروس بناءً على أبحاثنا وأبحاث الآخرين حول العلاقات بين إدراك المخاطر والمسؤولية التقصيرية والابتكار. بدون نية أن نكون شاملين ، نغوص بعمق في إعدادين تاريخيين يتضمنان أجهزة التصوير المقطعي المحوسب (CT) والغرسات الطبية. تلتقط هذه الإعدادات بعض الميزات الرئيسية للعديد من التقنيات الجديدة أثناء مراحل تطويرها وتسويقها المبكرة. أولاً ، قد يكون من الصعب التنبؤ مسبقًا بالعديد من عوامل الخطر - المتعلقة بالطرق التي يتفاعل بها البشر مع الآلات ، والطرق التي تتفاعل بها المكونات المختلفة والمنتجات المختلفة مع بعضها البعض ، والطرق التي يتعرض لها المستهلكون للأذى. ثانيًا ، يشارك عدد كبير من اللاعبين في سلسلة التوريد والتوزيع ، والتي يقدم الكثير منها مدخلات وخدمات للأغراض العامة (مثل مزودي البيانات وأجهزة الاستشعار والاتصال). ثالثًا ، العديد من منتجي المنتجات النهائية هم مبتكرون صغار قد لا يكونون قادرين على تحمل تكاليف المسؤولية عن الأضرار غير المتوقعة (وغير المؤمن عليها).



يتمثل أحد التحديات الأساسية للعديد من التقنيات الجديدة في صعوبة التنبؤ بالعديد من المخاطر. لذلك ، من المهم لصانعي السياسات الحفاظ على حوافز الأنواع المختلفة من اللاعبين وتسخيرها ، بما في ذلك وسائل الإعلام والخبراء والشركات لإنتاج ونشر معلومات جديدة حول المخاطر. تُظهر استجابات منتجي أجهزة المسح الضوئي للأشعة المقطعية للإبلاغ المكثف عن مخاطر الإشعاع الطبي أنه عندما تكون مخاطر السلامة واضحة للمستهلكين ، تميل قوى السوق إلى تحفيز الشركات على تعزيز السلامة.



يجب وضع أنظمة وإجراءات لرصد المخاطر الجديدة التي لم يتم توقعها من قبل الشركات المصنعة والسلطات التنظيمية والإبلاغ عنها وتوثيقها وتقييمها في تقييمها الأولي للمخاطر. بالنسبة للذكاء الاصطناعي والتقنيات الروبوتية ، على سبيل المثال ، تشمل هذه التأثيرات على السلامة للطرق الجديدة التي يستخدمها البشر أو يسيئون استخدام هذه التقنيات الجديدة ، والطرق الجديدة التي تتفاعل بها الآلات مع بعضها البعض ، والوظائف أو السلوك الجديد للمنتجات المستقلة وخوارزميات التعلم الذاتي. توفر أنظمة المراقبة والإبلاغ الحالية لما بعد السوق للعديد من التقنيات التقليدية مثل الأجهزة الطبية والأدوية والسكك الحديدية والنقل الجوي أمثلة مفيدة. يُطلب من المصنعين والمشغلين الإبلاغ عن فشل المنتج والآثار الضارة والحوادث إلى مستودع مركزي في الوكالة ذات الصلة.



تلعب وسائل الإعلام دورًا حاسمًا في نشر المعلومات حول المخاطر الصحية لعامة الناس ، وبالتالي التأثير على الطلب على السلامة. على سبيل المثال ، بدأ اهتمام الكونغرس والجمهور بمخاطر الإشعاع الطبي التي فحصناها في دراستنا بسلسلة من التقارير الاستقصائية الفعالة بواسطة اوقات نيويورك . من المحتمل أن يكون للتحيزات المؤيدة للشركات أو ضدها والميل إلى الإثارة عواقب مهمة على إدراك المستهلك للمخاطر. تشير الأدبيات الاقتصادية حول التحيز الإعلامي إلى أن سياسة المنافسة واللوائح التي تهدف إلى تعزيز تعددية وسائل الإعلام واستقلالها مهمة للحد من العديد من هذه التحيزات والحفاظ على دقة وموضوعية التقارير.14علاوة على ذلك ، قد تؤدي خوارزميات وسائل التواصل الاجتماعي التي تديم غرف الصدى أيضًا إلى تصورات أكثر تطرفًا للمخاطر. قد تكون الخوارزميات وتصميمات المنصات الشفافة التي تشجع التفاعل بين المستخدمين المتنوعين مفيدة في هذا الصدد.خمسة عشر



قد تكمل الهيئات التنظيمية عملية وضع المعايير الصناعية من خلال توفير إرشادات واضحة ، وجعل مستخدمي التكنولوجيا أكثر استنارة ، وإظهار تهديد واضح بالتدخل الرسمي إذا لم تفعل الصناعة ما يكفي. في حالة ماسح التصوير المقطعي المحوسب ، على الرغم من أن إدارة الغذاء والدواء اختارت السماح للصناعة بأخذ زمام المبادرة لمراجعة معايير السلامة ، فقد قدمت الوكالة أيضًا 1) مجموعة واضحة من التحسينات المقترحة على الاتحاد الصناعي لمصنعي المعدات و 2) توصيات للجمعيات المهنية الطبية يتحكمون في مرافق التصوير وأخصائيي الأشعة وتقنيي الأشعة حول أفضل السبل التي يمكنهم من خلالها منع حالات إضافية من التعرض للإشعاع الزائد. هذا الأخير جعل مستخدمي التقنيات (المهنيين الطبيين) أكثر دراية بمخاطر الإشعاع ومسؤولياتهم الخاصة ، مما يحفز المنتجين على تعزيز السلامة من خلال زيادة الطلب على السلامة.

يجب على صانعي السياسات أيضًا النظر في كيفية الاستفادة المثلى من الدروس المستفادة من استخدام وحوادث المنتجات المطروحة بالفعل في السوق للمساعدة في تقييم مخاطر التقنيات المستقبلية قبل يسمح لهم بدخول السوق. يمكن تحقيق ذلك من خلال تكليف الوكالات ذات الصلة أو منظمات وضع المعايير بتدوين هذه المعارف بطرق يمكن تعميمها على التقنيات المماثلة وذات الصلة. كما نوقش أعلاه ، يبدو أنه من الفعال إذا كان من الممكن تقنين هذا التعلم بشكل واضح ونقله إلى السوق ، بما في ذلك المستهلكين ومشغلي هذه التقنيات (مثل الأطباء ومقدمي الرعاية الصحية الآخرين للأجهزة الطبية) والمحاكم ووسائل الإعلام. يمكن أن يؤدي إبقاء هذه الأطراف على اطلاع أكثر إلى زيادة حوافز الشركات للاستفادة من طلب السوق على السلامة.



بصرف النظر عن إنتاج ونشر معلومات المخاطر ، يتم أيضًا تكليف لوائح السلامة وأنظمة المسؤولية التقصيرية بتحفيز السلامة عندما لا تكون قوى السوق كافية. أظهرت الأدبيات أن إصلاحات الضرر والتغييرات الأخرى في أنظمة المسؤولية لها آثار تتجاوز تأثيرها قصير المدى على سلامة المستهلك من خلال التأثير على توافر وربحية المنتجات الموجودة بالفعل في السوق. كما أن لها تأثيرات طويلة المدى على معدل واتجاه التغير التكنولوجي. إن التعرف على هذه الآثار الديناميكية أمر بالغ الأهمية لتقييم تكاليف وفوائد إصلاحات السياسات. بينما تشير أبحاثنا وأبحاث الآخرين إلى أن نظام المسؤولية التقصيرية الحالي ، بشكل عام ، يبدو أنه يحقق هدف السياسة المتمثل في تحفيز الشركات على تعزيز السلامة ، يحتاج صانعو السياسات إلى الانتباه إلى الظروف التي يحتمل أن يفوق فيها التأثير المخيف للابتكار المكاسب الاجتماعية من زيادة السلامة وتعديل الأطر القانونية الحالية مع السياسات المستهدفة.



يشير النقص في المواد الذي شهدته صناعة الغرسات الطبية في التسعينيات إلى أن كبار الموردين والموردين لمدخلات الأغراض العامة قد يقيدون توريدهم للتطبيقات التي تكون فيها مخاطر المسؤولية وعدم اليقين هي الأعلى. في حين أن الموردين الصغار قد يتدخلون ، فقد تكون التكاليف أعلى (بسبب نقص الحجم أو النطاق) وقد تكون مراقبة الجودة غير متسقة. في حالة الذكاء الاصطناعي ، وإنترنت الأشياء ، والتقنيات الروبوتية ، نظرًا لأهمية اقتصاديات الحجم والنطاق ، فمن المرجح أن يكون العديد من مزودي البيانات والبرمجيات بمثابة مدخلات للأغراض العامة ومقدمي التكنولوجيا. عندما تجعلهم مخاوفهم بشأن مخاطر المسؤولية يترددون في تقديم تطبيقات محفوفة بالمخاطر ولكنها ذات أهمية اقتصادية واجتماعية ، فإن السياسات التي تستهدف الحد من عدم اليقين هذا يمكن أن تكون حاسمة في استدامة تطوير التقنيات الجديدة.

في حالة الغرسات الطبية التي تمت مناقشتها أعلاه ، لاستعادة حافز العرض لمنتجي المواد الخام ، أقر الكونجرس الأمريكي قانون ضمان الوصول إلى المواد الحيوية (BAAA) في أغسطس 1998. يوفر القانون إعفاء من المسؤولية لموردي المكونات السائبة والمواد الخام بالنسبة للغرسات الدائمة ، طالما أنها لا تشارك في تصميم واختبار وإنتاج الغرسات وأن المدخلات نفسها ليست خطيرة أو معيبة. من المهم ملاحظة أن BAAA تستند إلى نفس المبادئ التي تقوم عليها حماية القانون العام لموردي المكونات والمواد. بينما كانت أحكام القانون العام هذه سارية طوال فترة العينة بأكملها ، فإن السياسة على المستوى الفيدرالي قد تقلل بشكل فعال من عدم اليقين والمصروفات المرتبطة بعملية التقاضي - على سبيل المثال ، يجوز للمدعين من موردي المواد الاحتجاج بالقانون لطلب الفصل المبكر من المحكمة — بالإضافة إلى التعقيدات التي قد تنشأ عن قوانين الولاية المختلفة.16يُظهر تحليلنا أن ابتكار الزرع الطبي قد تعافى بعد بضع سنوات من سن قانون BAAA. يتماشى هذا مع الفكرة القائلة بأن السياسات المستهدفة على المستوى الفيدرالي التي تقلل من عدم اليقين وتكاليف التقاضي تساعد في استعادة حوافز التوريد ، والتي بدورها تعيد الابتكار في المراحل النهائية.



يجب استخدام سياسات الإعفاء من المسؤولية بطريقة مستهدفة فقط ، حيث أن الجانب السلبي هو أن الموردين قد يفتقرون إلى الحوافز لتعديل سياسات التوريد الخاصة بهم - على سبيل المثال ، عن طريق زيادة تكاليف المدخلات أو عن طريق تشديد فحص العملاء - لتقليل عدد المنتجات الضارة في سوق. كما تمت مناقشته في القسم السابق ، سيكون من الأفضل جعل الموردين مسؤولين عن النقص في تكاليف المسؤولية التي لا يغطيها المنتجون المعسرون عندما يتمكن الموردون من تمرير هذه التكاليف بشكل فعال إلى المنتجين أو استبعاد المنتجات غير الآمنة دون تكبد خسائر كبيرة مقابل ذلك. المنتجين الذين قد يبدون محفوفين بالمخاطر ولكنهم ليسوا في الواقع مشكلة.



بينما تركز دراستنا على المقايضة بين تحميل الموردين المسؤولية عن المنتجات غير الآمنة ، فإن مسألة ما إذا كان يجب تحميل غير المنتجين المسؤولية عندما يكون المنتجون معسرين هي مسألة عامة تمامًا وتنطبق أيضًا على اللاعبين المهمين الآخرين في سلسلة القيمة. على سبيل المثال ، توفر المنصات الكبيرة وشركات تكامل الأنظمة وموفرو الاتصال أيضًا مدخلات وخدمات مهمة وعامة محتملة تسهل التفاعلات بين منتجي هذه التقنيات الناشئة والمستهلكين.17في حين أن تكامل سلسلة القيمة والنظام لهذه التقنيات الناشئة قد يثير سيناريوهات جديدة ، يجب أيضًا تطبيق مبادئ توجيهية مماثلة والمفاضلات المرتبطة بها كما تمت مناقشتها أعلاه.

بالنسبة للتقنيات الجديدة مثل الذكاء الاصطناعي وإنترنت الأشياء والتقنيات الروبوتية ، يصعب التنبؤ مسبقًا بالعديد من المخاطر الأساسية ولكنها ستصبح أكثر وضوحًا مع التوسع في الاستخدام. يسلط البحث الذي شمله الاستطلاع في هذه المقالة الضوء على أنه عندما تكون المخاطر واضحة للمستخدمين ، فقد يؤدي طلب السوق على السلامة إلى تطوير تقنيات تخفيف المخاطر. تشمل السياسات العامة التي يمكن أن تكمل قوى السوق هذه الأنظمة والبنى التحتية التي تجمع وتتحقق من صحة البيانات المتعلقة بمخاطر الصحة والسلامة قبل وبعد دخول السوق ، وتوصيل معلومات المخاطر إلى عامة الناس ، وتعزز الوصول إلى البيانات للوكالات الحكومية والمؤسسات البحثية والشركات . تثير الأدوار المهمة لمقدمي الخدمات والمدخلات ذات الأغراض العامة ، والمنصات ، وموظفي تكامل الأنظمة لهذه المنتجات أيضًا مسألة ما إذا كان يجب تحميل هؤلاء الفاعلين المسؤولية عن المنتجات غير الآمنة التي لم يتم إنتاجها بواسطتهم. لقد وثق بحثنا كيف يمكن ، في بعض الظروف ، عدم اليقين من المسؤولية أن يجعلهم مترددين في توريد أو دمج منتجات محفوفة بالمخاطر ولكنها ذات أهمية اقتصادية واجتماعية. يشير هذا إلى أن السياسات التي تستهدف التخفيف من عدم اليقين قد تكون حاسمة للحفاظ على حوافز الابتكار.