- إنضم
- 25 أغسطس 2020
- المشاركات
- 5,845
- التفاعل
- الدولة
الذكاء الاصطناعي هو أحد أهم أولويات التحديث التكنولوجي لوزارة الدفاع.
قال ألكا باتيل ، رئيس سياسة أخلاقيات الذكاء الاصطناعي في مركز الذكاء الاصطناعي المشترك ، اليوم في مؤتمر قمة Defence One Genius Machines 2021 الافتراضية.
وأضافت أن هذه المبادئ الأخلاقية تستند إلى تاريخ الوزارة الطويل في التبني الأخلاقي للتقنيات الجديدة وقواعد الاشتباك والحرب.
وقالت إن مجلس ابتكار الدفاع أمضى شهورًا في تطوير المبادئ والتشاور مع كبار خبراء الذكاء الاصطناعي والخبراء التقنيين ، بالإضافة إلى قادة وزارة الدفاع الحاليين والسابقين والجمهور الأمريكي.
تنص هذه المبادئ على ما يلي:
سوف يمارس موظفو وزارة الدفاع مستويات مناسبة من الحكم والرعاية بينما يظلون مسؤولين عن تطوير ونشر واستخدام قدرات الذكاء الاصطناعي.
سيتخذ القسم خطوات مدروسة لتقليل التحيز غير المقصود في قدرات الذكاء الاصطناعي.
سيتم تطوير ونشر قدرات الذكاء الاصطناعي في القسم بحيث يمتلك الموظفون المعنيون الفهم المناسب للتكنولوجيا وعمليات التطوير وأساليب التشغيل ، بما في ذلك المنهجيات الشفافة والقابلة للتدقيق ومصادر البيانات وإجراءات التصميم والوثائق.
سيكون لإمكانيات الذكاء الاصطناعي في القسم استخدامات واضحة ومحددة جيدًا ، وستخضع سلامة وأمن وفعالية هذه القدرات للاختبار والضمان ضمن تلك الاستخدامات المحددة عبر دورات حياتها.
سيقوم القسم بتصميم وهندسة قدرات الذكاء الاصطناعي:
(1) للوفاء بوظائفها المقصودة مع امتلاك القدرة على اكتشاف وتجنب العواقب غير المقصودة ، و
(2) لفك أو إلغاء تنشيط الأنظمة المنشورة التي تظهر سلوكًا غير مقصود.
الآن وقد تم وضع المبادئ ، تعمل الإدارة على تفعيلها لتطبيقات الذكاء الاصطناعي عبر الخدمات ، كما قالت ، مضيفةً أن هذا أمر طويل ولكنه ضروري. يسير تدريب وتعليم ممارسات الذكاء الاصطناعي الأخلاقية عبر القسم جنبًا إلى جنب مع ذلك.
وقالت إن جزءًا مهمًا آخر من أخلاقيات الذكاء الاصطناعي هو مشاركة المحادثة مع الحلفاء والشركاء ، بحيث يكون الجميع في نفس الصفحة عندما يتعلق الأمر بكيفية عمل الأخلاق في التشغيل البيني.
قال باتيل إن مشاركة المحادثة مع الشركات التي تساعد القسم في جهود الذكاء الاصطناعي الخاصة به أمر مهم أيضًا. تحتاج الشركات وموظفوها إلى ضمان أن ما يساعدون في بنائه سيُستخدم بطريقة مسؤولة أخلاقياً ، وبالتالي عليهم أن يبنيوه وفقًا للمعايير الأخلاقية.
قال ألكا باتيل ، رئيس سياسة أخلاقيات الذكاء الاصطناعي في مركز الذكاء الاصطناعي المشترك ، اليوم في مؤتمر قمة Defence One Genius Machines 2021 الافتراضية.
وأضافت أن هذه المبادئ الأخلاقية تستند إلى تاريخ الوزارة الطويل في التبني الأخلاقي للتقنيات الجديدة وقواعد الاشتباك والحرب.
وقالت إن مجلس ابتكار الدفاع أمضى شهورًا في تطوير المبادئ والتشاور مع كبار خبراء الذكاء الاصطناعي والخبراء التقنيين ، بالإضافة إلى قادة وزارة الدفاع الحاليين والسابقين والجمهور الأمريكي.
تنص هذه المبادئ على ما يلي:
سوف يمارس موظفو وزارة الدفاع مستويات مناسبة من الحكم والرعاية بينما يظلون مسؤولين عن تطوير ونشر واستخدام قدرات الذكاء الاصطناعي.
سيتخذ القسم خطوات مدروسة لتقليل التحيز غير المقصود في قدرات الذكاء الاصطناعي.
سيتم تطوير ونشر قدرات الذكاء الاصطناعي في القسم بحيث يمتلك الموظفون المعنيون الفهم المناسب للتكنولوجيا وعمليات التطوير وأساليب التشغيل ، بما في ذلك المنهجيات الشفافة والقابلة للتدقيق ومصادر البيانات وإجراءات التصميم والوثائق.
سيكون لإمكانيات الذكاء الاصطناعي في القسم استخدامات واضحة ومحددة جيدًا ، وستخضع سلامة وأمن وفعالية هذه القدرات للاختبار والضمان ضمن تلك الاستخدامات المحددة عبر دورات حياتها.
سيقوم القسم بتصميم وهندسة قدرات الذكاء الاصطناعي:
(1) للوفاء بوظائفها المقصودة مع امتلاك القدرة على اكتشاف وتجنب العواقب غير المقصودة ، و
(2) لفك أو إلغاء تنشيط الأنظمة المنشورة التي تظهر سلوكًا غير مقصود.
الآن وقد تم وضع المبادئ ، تعمل الإدارة على تفعيلها لتطبيقات الذكاء الاصطناعي عبر الخدمات ، كما قالت ، مضيفةً أن هذا أمر طويل ولكنه ضروري. يسير تدريب وتعليم ممارسات الذكاء الاصطناعي الأخلاقية عبر القسم جنبًا إلى جنب مع ذلك.
وقالت إن جزءًا مهمًا آخر من أخلاقيات الذكاء الاصطناعي هو مشاركة المحادثة مع الحلفاء والشركاء ، بحيث يكون الجميع في نفس الصفحة عندما يتعلق الأمر بكيفية عمل الأخلاق في التشغيل البيني.
قال باتيل إن مشاركة المحادثة مع الشركات التي تساعد القسم في جهود الذكاء الاصطناعي الخاصة به أمر مهم أيضًا. تحتاج الشركات وموظفوها إلى ضمان أن ما يساعدون في بنائه سيُستخدم بطريقة مسؤولة أخلاقياً ، وبالتالي عليهم أن يبنيوه وفقًا للمعايير الأخلاقية.
DOD Incorporating AI Ethics Into Systems Engineering, Official Says
Alka Patel, head of artificial intelligence ethics policy at the Joint Artificial Intelligence Center, said that because AI enables autonomy, decision making and system execution at incredibly fast
www.defense.gov
