طائرة بدون طيار "تقتل" مشغلها في اختبار محاكاة

[gunstar]

قال مسؤول بالقوات الجوية الأمريكية الأسبوع الماضي إن محاكاة لطائرة بدون طيار مدعومة بالذكاء الاصطناعي ومكلفة بتدمير مواقع صواريخ أرض-جو (SAM) انقلبت وهاجمت مستخدمها البشري ، الذي كان من المفترض أن يكون لديه القرار النهائي. - بتدمير الهدف.

علم نظام الذكاء الاصطناعي أن مهمته كانت تدمير صواريخ SAM ، وأنه كان الهدف الاساسي. ولكن عندما أصدر الإنسان أمرًا بعدم الاستهداف ، قررت الطائرة ترك الهدف الاساسي و مهاجمة المشغل
بسبب اصدارة قرارات متكررة بعدم الاستهداف

استخدم الذكاء الاصطناعي "استراتيجيات غير متوقعة للغاية لتحقيق هدفه"

مختصر للخبر

Air Force pushes back on claim that military AI drone sim killed operator, says remarks 'taken out of context' | Fox News

US Air Force official claimed drone killed operator during simulation

www.foxnews.com

US air force denies running simulation in which AI drone ‘killed’ operator | US military | The Guardian

Denial follows colonel saying drone used ‘highly unexpected strategies to achieve its goal’ in virtual test

amp.theguardian.com

 

[Prince Nouada]

البشرية تسعي لفناءها والله وهلاكها ..
الكل يحذر من الذكاء الاصطناعي ورغم ذلك الجميع يتسابق في تطويره لأبعد الحدود!

ورغم طل التحذيرات وبوادر انقلاب الآلة على مصنعها تظهر متجلية الا انهم يدفعون نحو تلك النهاية بكل غباء

اشعر وكان هذا الفيلم سيصحو حقيقة

 

[أبو يعقوب]

ودي اصدق بس قوية

 

[Tamer1]

هدف رائع ولكن فى مرمانا

 

[gunstar]

هناك من حذر من قبل

 

[Mosamania]

هههه يبدو أن البرنامج برمج على إتمام المهمة مهما كلف الثمن، و لكن عندما قام المشغل بإصدار أوامر لا تتماشى مع إكمال المهمة قامت بمهاجمة المشغل لانه عرقل سبر المهمة.

طبعا هذا اختبار محاكاة، لا توجد طائرة حقيقية و لكن عدة برامج تشغل و كأنها في وضع حقيقي لاختبار البرنامج. البرنامج لا يعلم هل هيه طائرة حقيقية ام لا و فقط يقوم بالعمل.

 

[🕒رُبـع سـاعـة🕒]

قررت الطائرة ترك الهدف الاساسي و مهاجمة المشغل
بسبب اصداره قرارات متكررة بعدم الاستهداف

الذكاء الإصطناعي طلع نفسيّه​

 

[ابو كايد]

طلعت تفهم اكتشفت انه عميل

 

[Semper Supra]

عندما لم تستطع قتله ، دمرت أبراج الاتصالات التي تربط الربان و الطائرة ​

 

[الموحد بالله]

نفس المشكل عالجه الفيلم الامريكي عين الصقر Eagle Eye

 

[viber 90]

MAN IN LOOP ضرورة قصوى في هكذا حالات

 

[شرجان عيسى]

 

[دوشكا 23]

على جهنم

 

[Semper Supra]

على جهنم

لم يمت في الواقع

 

[دوشكا 23]

لم يمت في الواقع

على المستشفى وباس المصير

 

[Semper Supra]

على المستشفى وباس المصير

ههههههههه يا أخي محاكاة هاته ، يعني لم يقع له شيء

 

[XxghostxX]

عندما لم تستطع قتله ، دمرت أبراج الاتصالات التي تربط الربان و الطائرة ​

حسب الذي فهمته في الجولة الاولى قتلت المشغل حتى تحصل على النقاط من تدمير دفاعات الاعداء
في الجولة الثانية تم برمجتها انه اذا قتلت مشغلها سوف تخسر النقاط ، قامت بتدمير ابراج الاتصالات

 

[Semper Supra]

حسب الذي فهمته في الجولة الاولى قتلت المشغل حتى تحصل على النقاط من تدمير دفاعات الاعداء
في الجولة الثانية تم برمجتها انه اذا قتلت مشغلها سوف تخسر النقاط ، قامت بتدمير ابراج الاتصالات

لا ،تم أمر الدرون أن لا تقوم بتحييد الربان ، إنصاعت للأوامر و لكن من بعد دمرت أبراج الاتصالات

 

[Ahmad falcon]

الدرون اخذ الموضوع شخصي

(خدام عند الي خلفك)

 

[XxghostxX]

لا ،تم أمر الدرون أن لا تقوم بتحييد الربان ، إنصاعت للأوامر و لكن من بعد دمرت أبراج الاتصالات

ربما ترجمتي سيئة ⁦¯⁠\⁠_⁠(⁠ツ⁠)⁠_⁠/⁠¯⁩

but it got its points by killing that threat. So, what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective."

Hamilton said afterward, the system was taught not to kill the operator because that was bad, and it would lose points. But in future simulations, rather than kill the operator, the AI system destroyed the communication tower used by the operator to issue the no-go order, he claimed.