آلهة الغد؟

الأسلحة ذاتية التحكم،مركبات القيادة الذاتية ومصانع إنتاج الروبوتات. إن كانت هذه التقنيات تعمل على تغيير مستقبلنا،أوليس من الحكمة معرفة ما يحرك مصمميها والدور المُتَخيَّل للمشغلين البشريين؟

يجادل جون ماركوف الكاتب العلمى بمجلة نيويورك تايمز أن ما يتكشف بخصوص هذه الأدوار لا ينطوي علي خيار تقني بل أخلاقي. في كتابه الجديد “آلات مُحِبة” يسلط أشعته السينية علي الذكاء الاصطناعي ومجتمعات التفاعل بين الإنسان والحاسوب لاكتشاف أنظمة القيم الخاصة بها.

وبقدرة ملحوظة على النفاذ إلى الأرشيف، مواقع الاختبار وقاعات لمؤتمرات تتراوح بين معهد ماساتشوستس للتكنولوجيا إلى وادي السليكون، يتقصى ماركوف الخطأ الفلسفي الذي يمر عبر المختبرات الجامعية والتجارية والذي قسّم المنظمات منذ 1950.

اتضح أن المعسكرين يؤيدان إما في التشغيل الآلي بعيداً عن البشر أو مساعدتهم من خلال زيادة قدرتهم. الصدع العميق يتجسد في “طاقم بشري مقابل طاقم آلي لاكتشاف الفضاء”. حتى لو انضممت لجانب رائد الفضاء، أيجب أن يكون أو تكون ..مشرف فعّال أم مسافر سلبي؟

وثـّق ماركوف أيضاً كيف استولي مطورو الروبوتات على موجة الإنفاق العسكرى،بشكل خاص على وكالة مشاريع البحوث المتقدمة لوكالة الدفاع الأمريكية (DARPA) . هى اختراعات مزدوجة الاستعمال تخدم أغراضاً مدنية وعسكرية،فكر في المكانس الكهربية مقابل أبناء عمومتهم “-milspec”-ميلسبيك” القادرة علي اشتمام قنابل الطرقات.

وبهذا الدفاع يرى ماركوف النضال أكثر وضوحًا: تسويق فعالية التكلفة ودقة أنظمة التشغيل الذاتي مع عواقب الاقتراب من خط لم يعد فيه للبشر التحكم في القرارات المتعلقة بالحياة والموت. أسنصبح عبيد للتكنولوجيا التي خلقناها؟ السؤال الختامي لماركوف هو نقطة انطلاق فيندل فالاش عالم الاخلاقيات والباحث في جامعة يال. عنوان كتابه “السيد الخطير” يحذّر مما سيحدث لو فشلنا في وضع تدابير رسمية لاستباق ومعالجة الآثار المترتبة على تكنولوجيا عملية التصميم.

لتوسيع النطاق،شمل والاش أمن الفضاء الالكتروني،الطباعة الثلاثية الأبعاد، الطاقة النووية، الهندسة الجيولوجية والحيوية والنانوية، تقنيات المراقبة والجراحة الروبوتية. كل من هذه التقنيات لها تأثير كبير على المجتمع خيرًا كان أم شرًا. انتقى والاش الحرب كواحدة من جالبي ما أسماه “العاصفة التكنولوجية” سيل من التقنيات السريعة جدًا، المعقدة وغير الواضحة حيث تغدو المجتمعات في خطر من فقدان أو بالأحري التنازل عن السيطرة،حيث تنجرف بعيداً إلى مستقبل هو في أحسن الأحوال غير سار.

يقول والاش:خذ واحدة من التقنيات التي يجري تطويرها: أنظمة الأسلحة الفتاكة ذاتية التحكم،القادرة على الشروع في أفعال، بتدخل بشري قليل أو معدوم. هنا والاش ليس قلقًا بخصوص الطائرات بدون طيار ولكن بخصوص طائرات القتال مثل النموذج الأولي اكس 47 بي نورثروب جرومان القادرة على الإقلاع والهبوط بشكل ذاتي.

ويجادل بأن مثل هذه الأسلحة الحديثة يجب أن تتم مناقشتها من قبل العلماء، المصممين، صانعي السياسات والجمهور الواعي. مع أن الحد من التسليح ليس بالمخطط المثالي للتنظيم اليوم وبدلا منه يوصي والاش بإنشاء لجان التنسيق الحكومية لمراقبة التكنولوجيا والتنسيق بين الجهات المعنية.

ويشدد أن مثل هذه البصيرة يجب أن تؤخذ في الحسبان عند “نقاط الانعطاف”،كنوافذ تتيح لنا الفرصة، قبل انتشار التكنولوجيا. لتسمح لنا بالتفكير في سيناريوهات لاستخدامها وإساءة استخدامها والتدخل عند الضرورة. ومثل هذه الحاجة لا تُعرض تطوير التكنولوجيا للخطر حيث أن العيوب على المدى القصير قد تتفوق على المنافع ذات المدى البعيد وكلاهما يجب أن يتم توقعهما.

قدّم والاش وماركوف تقديرات متفتحة للثقافة الهندسية اليوم. تعزيز القوة البشرية أم آلات مستقلة؟ روبوت البحث والتدمير أم روبوت البحث والإنقاذ؟ بعيدًا عن كونه أبيض وأسود .يقول ماركوف أن هذا الخيار هو قرار تصميم سيتم اتخاذه من قبل مصممين بشريين.

لا يمكن التفكير في الأشياء ويكأنها أمر بديهي، لأنها لا تبدو كذلك كما يلمح والاش لفكرة أن: الكثير من العلماء والمهندسين لا يعتقدون أن التحديات الأخلاقية والسياسية الناجمة عن عملهم هى مشكلتهم!”

بشكل غير مثير للقلق أو جالب للموافقة، كلا الكتابين يحتويان على نداءات عاجلة،مقنعة وذات صلة لتضمين قيمنا بوعي في النظم التي نصممها، وننخرط مع اختياراتنا بشكل حاسم. إن لم نصمم أنفسنا فنحن البشر جزء من أى نظام تقني نطوره ونستخدمه ونخترقه.

ألا تتخيل مستقبل شديد التعقيد ويتعذر التنبؤ به بشكل مستقل؟

مصدر المقالة: https://goo.gl/iS0CTg