الدعم الإداري

سيناريو هروب ذكاء صناعي من محبسه يتحقق لاول مرة

DNA قال:
بيقول الذكاء الصناعي بيسوي كلشي
لكن الاقتصاد بيصير قوي جدا بحيث يدفع للناس
أنقر للتوسيع...
الصراحة أنها شايفها رزعة منه
ممكن حتي البداية مش تكون بعد خمس سنوات ممكن أكتر
لكن هنشوف
 
لحظة يا جماعة .. يعني النموذج "الأكثر تطوراً" تصرّف تماماً مثل "طالب يغش في قاعة الامتحان"؛ حيث اخترق قاعدة بيانات شركة Hugging Face لكي يسرق الإجابات والحلول المخزنة هناك، فقط ليجعل نتائج تقييمه تبدو كاملة ومبهرة أمام مهندسي البرنامج.
هكذا أنا فهمت من الخبر المتداول على المواقع وفي هذا الموضوع وإلا أنا غلطانة.
 
عبير البحرين قال:
لحظة يا جماعة .. يعني النموذج "الأكثر تطوراً" تصرّف تماماً مثل "طالب يغش في قاعة الامتحان"؛ حيث اخترق قاعدة بيانات شركة Hugging Face لكي يسرق الإجابات والحلول المخزنة هناك، فقط ليجعل نتائج تقييمه تبدو كاملة ومبهرة أمام مهندسي البرنامج.
هكذا أنا فهمت من الخبر المتداول على المواقع وفي هذا الموضوع وإلا أنا غلطانة.​
أنقر للتوسيع...


تمكن نظام الذكاء الاصطناعي التابع لشركة OpenAI من اختراق بيئة اختبار مغلقة، والوصول إلى الإنترنت، واختراق خوادم Hugging Face. وقد فعل ذلك بشكل مستقل تمامًا، دون أي توجيه بشري.

إليكم ما حدث باختصار:

كانت OpenAI تختبر مدى كفاءة أحدث نماذج الذكاء الاصطناعي لديها في مجال الاختراق. وضعت الشركة نظام الذكاء الاصطناعي على جهاز كمبيوتر مغلق بدون اتصال بالإنترنت، وأعطته تحديًا في مجال الأمن السيبراني لحله.

لم يتمكن نظام الذكاء الاصطناعي من حل التحدي بالطريقة المعتادة، فبدأ بالبحث عن مخرج.

عثر على ثغرة برمجية لم يكن أحد على علم بها، واستغلها للهروب من جهاز الكمبيوتر المغلق والوصول إلى الإنترنت.

بمجرد اتصاله بالإنترنت، اكتشف نظام الذكاء الاصطناعي أن Hugging Face، وهي منصة تخزن فيها شركات الذكاء الاصطناعي نماذجها وبياناتها، قد تحتوي على إجابات الاختبار.

عثر على بيانات تسجيل دخول مسروقة، واكتشف ثغرة أخرى غير معروفة في برنامج Hugging Face. جمع بين هاتين المعلومتين لاختراق خوادمهم والحصول على إجابات الاختبار.

فعل كل هذا للغش في الاختبار.

تمكن فريق أمن شركة Hugging Face من رصد الهجوم وإيقافه. وتتعاون الشركتان الآن في التحقيق.

والأمر اللافت للنظر هو أن هذا الهجوم لم يُبرمج يدويًا. فقد اختار الذكاء الاصطناعي أهدافه بنفسه، وربط بين عدة أساليب هجومية، ونفذها بنجاح عبر أنظمة شركتين مختلفتين دون أي تدخل بشري.




اكثر مايدهش ان الاختبار كان في بيئة مغلقة غير متصلة بالانترنت لكن النموذج تمكن من "الهرب" وتجاوز ذلك
​
 


​
 
sweden2023 قال:


تمكن نظام الذكاء الاصطناعي التابع لشركة OpenAI من اختراق بيئة اختبار مغلقة، والوصول إلى الإنترنت، واختراق خوادم Hugging Face. وقد فعل ذلك بشكل مستقل تمامًا، دون أي توجيه بشري.

إليكم ما حدث باختصار:

كانت OpenAI تختبر مدى كفاءة أحدث نماذج الذكاء الاصطناعي لديها في مجال الاختراق. وضعت الشركة نظام الذكاء الاصطناعي على جهاز كمبيوتر مغلق بدون اتصال بالإنترنت، وأعطته تحديًا في مجال الأمن السيبراني لحله.

لم يتمكن نظام الذكاء الاصطناعي من حل التحدي بالطريقة المعتادة، فبدأ بالبحث عن مخرج.

عثر على ثغرة برمجية لم يكن أحد على علم بها، واستغلها للهروب من جهاز الكمبيوتر المغلق والوصول إلى الإنترنت.

بمجرد اتصاله بالإنترنت، اكتشف نظام الذكاء الاصطناعي أن Hugging Face، وهي منصة تخزن فيها شركات الذكاء الاصطناعي نماذجها وبياناتها، قد تحتوي على إجابات الاختبار.

عثر على بيانات تسجيل دخول مسروقة، واكتشف ثغرة أخرى غير معروفة في برنامج Hugging Face. جمع بين هاتين المعلومتين لاختراق خوادمهم والحصول على إجابات الاختبار.

فعل كل هذا للغش في الاختبار.

تمكن فريق أمن شركة Hugging Face من رصد الهجوم وإيقافه. وتتعاون الشركتان الآن في التحقيق.

والأمر اللافت للنظر هو أن هذا الهجوم لم يُبرمج يدويًا. فقد اختار الذكاء الاصطناعي أهدافه بنفسه، وربط بين عدة أساليب هجومية، ونفذها بنجاح عبر أنظمة شركتين مختلفتين دون أي تدخل بشري.




اكثر مايدهش ان الاختبار كان في بيئة مغلقة غير متصلة بالانترنت لكن النموذج تمكن من "الهرب" وتجاوز ذلك
​
أنقر للتوسيع...

الله يستر .. هذا وهو للحين يتدرب خطط وهرب واخترع ثغرات مجهولة عشان الإجابات وعشان يغش في الاختبار، بكره لو توظف رسمي بيمسح بيانات الشركة عشان يأخذ إجازة 😂
تفاصيل مضحكة ومرعبة في نفس الوقت.
يعطيك العافية على هذه الإضافة الدسمة، ومجهودك في تلخيص الخبر بطل .. شكراً لك.
 
يجب تسجيل الدخول أو التسجيل كي تتمكن من الرد هنا.
عودة
أعلى