الفيلم يصور مستقبل وحشي.
شركة عسكرية تكشف عن طائرة بدون طيار صغيرة تصطاد وتقتل بكفاءة لاترحم. ولكن عندما تقع التكنولوجيا في أيدي خاطئة، لا أحد سيكون حينها آمن. سيتم قتل السياسيين في وضح النهار. وستنزل الآلات إلى قاعة محاضرات الناشطين، سيتم إرسال الالات بسرعة الى ان تنفجر في رأسهم.
والفيلم القصير والمثير للقلق هو آخر محاولة يقوم بها الناشطون والعلماء المعنيون لتسليط الضوء على مخاطر تطوير أسلحة مستقلة يمكن أن تجد وتتبع وتطلق النار على أهداف دون إي إشراف بشري
. وهم يحذرون من أن هناك حاجة ماسة إلى فرض حظر وقائي لمنع تكنولوجيا أسلحة الدمار الشامل .
وسيعرض "ستيوارت راسل" وهو عالم رائد فى علم الذكاء الاصطناعى بجامعة كاليفورنيا فى بيركلى وغيرهما، الفيلم يوم الاثنين خلال حدث فى اتفاقية الامم المتحدة حول الاسلحة التقليدية التى تستضيفها حملة لوقف الروبوتات القاتلة. وقال "روسل" ان تصنيع واستخدام الاسلحة ذاتية التحكم مثل الطائرات بدون طيار والدبابات والرشاشات الآلية سيكون مدمرا من اجل الامن الانسانى والحرية.
وقد كان الجيش واحدا من أكبر الممولين والمتبنين لتكنولوجيا الذكاء الاصطناعي. فتقنيات الحوسبة تساعد الروبوتات أن تطير، والتنقل بين التضاريس، و تحت البحارأيضا.بالاضافة الى خوارزميات التعرف على الصور ويمكنها مسح لقطات فيديو لأهداف أفضل من الإنسان بمراحل . الحارس الآلي الذي يحرس الحدود الكورية الجنوبية مع الشمال يعتمد على التكنولوجيا تتبع الأهداف على الفور تصل إلى 4 km بعيدا.
وعلى الرغم من أن الطائرات المسلحة بدون طيار كانت تطير عن بعد لأغراض المراقبة والهجمات، فإن الأسلحة المستقلة ذات الأسلحة المتفجرة ونظم التعرف على الأهداف أصبحت الآن في متناول اليد، ويمكنها تحديد مواقعها وإضرابها دون الإرجاء إلى وحدة تحكم بشرية. ويعتقد المعارضون أن تسليم الآلات السلطة على من يعيش ويموت يعبر خط أخلاقي واضح.
وقال راسل "ان مواصلة تطوير اسلحة مستقلة قاتلة من شأنها ان تقلل بشكل كبير من الامن الدولى والوطنى والمحلى والشخصى". استخدم العلماء حجة مماثلة لإقناع الرئيسين ليندون جونسون وريتشارد نيكسون بالتخلي عن برنامج الأسلحة البيولوجية الأمريكي، وفي النهاية التوصل إلى اتفاقية الأسلحة البيولوجية.
ونظرا لأن الآلات التي تعمل بالطاقة الشمسية رخيصة نسبيا لتصنيعها، يخشى النقاد من أن الأسلحة المستقلة يمكن أن تنتج بكميات كبيرة وتقع في أيدي الدول المارقة أو الإرهابيين الذين يمكن استخدامها لقمع السكان وإثارة الفوضى، كما يصور الفيلم.
ومن شأن معاهدة لحظر الأسلحة المستقلة أن تحول دون تصنيع التكنولوجيا على نطاق واسع. كما سيوفر إطارا لشرطة الدول العاملة على التكنولوجيا، وانتشار الأجهزة والبرمجيات ذات الاستخدام المزدوج مثل كوادكوبتيرز وخوارزميات التعرف على الهدف. وقال راسل: "يجب أن تحظر تطوير الآلات التي يمكنها أن تقرر قتل الإنسان".
وفي آب / أغسطس، دعا أكثر من 100 من رواد الروبوتات الرائدة في العالم ومنظمة العفو الدولية الأمم المتحدة إلى حظر تطوير واستخدام الروبوتات القاتلة. وحذرت الرسالة المفتوحة التى وقعها الرئيس التنفيذى لزعامة تسلا ايلون موسك ومصطفى سليمان مؤسس وحدة الابد العميق للابد من ان هناك حاجة الى حظر عاجل لمنع "ثورة ثالثة فى الحرب" بعد البارود والاسلحة النووية. وحتى الان، دعا 19 دولة الى فرض حظر، بما فى ذلك الارجنتين ومصر وباكستان.
حذر نويل شاركى، الأستاذ الفخري لمنظمة العفو الدولية بجامعة شيفيلد ورئيس اللجنة الدولية لمراقبة التسلح، من مخاطر الأسلحة ذاتية الحكم منذ 10 سنوات. وقال "ان الفيلم جعل شعري يقف على النهاية حيث يبلور احد النتائج المستقبلية المحتملة من تطوير هذه الاسلحة الفائقة التكنولوجيا". "هناك سباق تسلح ناشئ بين الدول التكنولوجيا الفائقة لتطوير الغواصات ذاتية التحكم والطائرات المقاتلة والبوارج والدبابات التي يمكن أن تجد أهدافها الخاصة وتطبيق القوة العنيفة دون إشراك قراراتالإنسان. ولن يستغرق سوى حرب كبيرة واحدة لإطلاق العنان لهذه الأسلحة الجديدة بعواقب إنسانية مأساوية وزعزعة الأمن العالمي ".
وقد اعتمد المجرمون والناشطون منذ فترة طويلة على الأقنعة والمخفية لإخفاء هوياتهم، ولكن تقنيات رؤية الكمبيوتر الجديدة يمكن أن ترى أساسا من خلالهم. وفي وقت سابق من هذا العام، عمل العلماء الممولون من الحكومة الهندية مع جامعة كامبريدج على خوارزمية لتحديد الأشخاص الذين يحجبون وجوههم مع القبعات والنظارات الشمسية، واللحية و الأوشحة وهمية.
https://www.theguardian.com/science/2017/nov/13/ban-on-killer-robots-urgently-needed-say-scientists