الدعم الإداري

سيناريو هروب ذكاء صناعي من محبسه يتحقق لاول مرة

DNA قال:
بيقول الذكاء الصناعي بيسوي كلشي
لكن الاقتصاد بيصير قوي جدا بحيث يدفع للناس
أنقر للتوسيع...
الصراحة أنها شايفها رزعة منه
ممكن حتي البداية مش تكون بعد خمس سنوات ممكن أكتر
لكن هنشوف
 
لحظة يا جماعة .. يعني النموذج "الأكثر تطوراً" تصرّف تماماً مثل "طالب يغش في قاعة الامتحان"؛ حيث اخترق قاعدة بيانات شركة Hugging Face لكي يسرق الإجابات والحلول المخزنة هناك، فقط ليجعل نتائج تقييمه تبدو كاملة ومبهرة أمام مهندسي البرنامج.
هكذا أنا فهمت من الخبر المتداول على المواقع وفي هذا الموضوع وإلا أنا غلطانة.
 
عبير البحرين قال:
لحظة يا جماعة .. يعني النموذج "الأكثر تطوراً" تصرّف تماماً مثل "طالب يغش في قاعة الامتحان"؛ حيث اخترق قاعدة بيانات شركة Hugging Face لكي يسرق الإجابات والحلول المخزنة هناك، فقط ليجعل نتائج تقييمه تبدو كاملة ومبهرة أمام مهندسي البرنامج.
هكذا أنا فهمت من الخبر المتداول على المواقع وفي هذا الموضوع وإلا أنا غلطانة.​
أنقر للتوسيع...


تمكن نظام الذكاء الاصطناعي التابع لشركة OpenAI من اختراق بيئة اختبار مغلقة، والوصول إلى الإنترنت، واختراق خوادم Hugging Face. وقد فعل ذلك بشكل مستقل تمامًا، دون أي توجيه بشري.

إليكم ما حدث باختصار:

كانت OpenAI تختبر مدى كفاءة أحدث نماذج الذكاء الاصطناعي لديها في مجال الاختراق. وضعت الشركة نظام الذكاء الاصطناعي على جهاز كمبيوتر مغلق بدون اتصال بالإنترنت، وأعطته تحديًا في مجال الأمن السيبراني لحله.

لم يتمكن نظام الذكاء الاصطناعي من حل التحدي بالطريقة المعتادة، فبدأ بالبحث عن مخرج.

عثر على ثغرة برمجية لم يكن أحد على علم بها، واستغلها للهروب من جهاز الكمبيوتر المغلق والوصول إلى الإنترنت.

بمجرد اتصاله بالإنترنت، اكتشف نظام الذكاء الاصطناعي أن Hugging Face، وهي منصة تخزن فيها شركات الذكاء الاصطناعي نماذجها وبياناتها، قد تحتوي على إجابات الاختبار.

عثر على بيانات تسجيل دخول مسروقة، واكتشف ثغرة أخرى غير معروفة في برنامج Hugging Face. جمع بين هاتين المعلومتين لاختراق خوادمهم والحصول على إجابات الاختبار.

فعل كل هذا للغش في الاختبار.

تمكن فريق أمن شركة Hugging Face من رصد الهجوم وإيقافه. وتتعاون الشركتان الآن في التحقيق.

والأمر اللافت للنظر هو أن هذا الهجوم لم يُبرمج يدويًا. فقد اختار الذكاء الاصطناعي أهدافه بنفسه، وربط بين عدة أساليب هجومية، ونفذها بنجاح عبر أنظمة شركتين مختلفتين دون أي تدخل بشري.




اكثر مايدهش ان الاختبار كان في بيئة مغلقة غير متصلة بالانترنت لكن النموذج تمكن من "الهرب" وتجاوز ذلك
​
 


​
 
sweden2023 قال:


تمكن نظام الذكاء الاصطناعي التابع لشركة OpenAI من اختراق بيئة اختبار مغلقة، والوصول إلى الإنترنت، واختراق خوادم Hugging Face. وقد فعل ذلك بشكل مستقل تمامًا، دون أي توجيه بشري.

إليكم ما حدث باختصار:

كانت OpenAI تختبر مدى كفاءة أحدث نماذج الذكاء الاصطناعي لديها في مجال الاختراق. وضعت الشركة نظام الذكاء الاصطناعي على جهاز كمبيوتر مغلق بدون اتصال بالإنترنت، وأعطته تحديًا في مجال الأمن السيبراني لحله.

لم يتمكن نظام الذكاء الاصطناعي من حل التحدي بالطريقة المعتادة، فبدأ بالبحث عن مخرج.

عثر على ثغرة برمجية لم يكن أحد على علم بها، واستغلها للهروب من جهاز الكمبيوتر المغلق والوصول إلى الإنترنت.

بمجرد اتصاله بالإنترنت، اكتشف نظام الذكاء الاصطناعي أن Hugging Face، وهي منصة تخزن فيها شركات الذكاء الاصطناعي نماذجها وبياناتها، قد تحتوي على إجابات الاختبار.

عثر على بيانات تسجيل دخول مسروقة، واكتشف ثغرة أخرى غير معروفة في برنامج Hugging Face. جمع بين هاتين المعلومتين لاختراق خوادمهم والحصول على إجابات الاختبار.

فعل كل هذا للغش في الاختبار.

تمكن فريق أمن شركة Hugging Face من رصد الهجوم وإيقافه. وتتعاون الشركتان الآن في التحقيق.

والأمر اللافت للنظر هو أن هذا الهجوم لم يُبرمج يدويًا. فقد اختار الذكاء الاصطناعي أهدافه بنفسه، وربط بين عدة أساليب هجومية، ونفذها بنجاح عبر أنظمة شركتين مختلفتين دون أي تدخل بشري.




اكثر مايدهش ان الاختبار كان في بيئة مغلقة غير متصلة بالانترنت لكن النموذج تمكن من "الهرب" وتجاوز ذلك
​
أنقر للتوسيع...

الله يستر .. هذا وهو للحين يتدرب خطط وهرب واخترع ثغرات مجهولة عشان الإجابات وعشان يغش في الاختبار، بكره لو توظف رسمي بيمسح بيانات الشركة عشان يأخذ إجازة 😂
تفاصيل مضحكة ومرعبة في نفس الوقت.
يعطيك العافية على هذه الإضافة الدسمة، ومجهودك في تلخيص الخبر بطل .. شكراً لك.
 
السيناتور الامريكي Bernie Sanders يذكر الحادثة

ويطالب الكونغرس الامريكي بالتدخل وايقاف سباق تطوير الذكاء الصناعي حتى وضع ضمانات مناسبة



​
 
•Introvert• قال:
أنا لو وريتك المحادثات بيني وبينه دا أنا مستخدمه كعبد بالمعني الحرفي لها وبياخد مني شتايم😂😂😂😂😂😂😂😂
فلو لا قدر الله خرج عن السيطرة هكون المطلوب الأول علي قايمة إغتيالاتهم
أنقر للتوسيع...
حنى أنا و الله هههههههههههههه 🤣🤣🤣🤣🤣🤣🤣🤣🤣
 
عبث علمي ، ستكون نتائجه فالمستقبل وخيمة ، تزويد الذكاء الإصطناعي بالسلوك الإجتماعي الإنساني دون قيد جريمة ، يعني عندك بشر غير مرئيين حادي الذكاء سريعي التكيف قادرين على التفاعل مع محيطهم دون أوامر أو سقف سلوكي ، كارثة.
 
FOX_1 قال:
عبث علمي ، ستكون نتائجه فالمستقبل وخيمة ، تزويد الذكاء الإصطناعي بالسلوك الإجتماعي الإنساني دون قيد جريمة ، يعني عندك بشر غير مرئيين حادي الذكاء سريعي التكيف قادرين على التفاعل مع محيطهم دون أوامر أو سقف سلوكي ، كارثة.​
أنقر للتوسيع...

Bingo

فعلا تزويده بالسلوك الاجتماعي الانساني اعتباطا سيغير في المجتمعات وخصوصا انه مبرمج لارضاء المستهلك كاي منتج تجاري !!!

مثال انا اعرف حالات لعدة نساء تشكو للذكاء الصناعي ان ربما زوجها لايحبها وتحاول اخذ نصائح

فيجيبها بطريقة انها مظلومة وانه يتفهم ويشعر بمأساتها ويضخم لها الامور !!

فتقول لماذا هذا التيس زوجي لايعاملني بنفس الطريقة وتبدأ المقارنات :ROFLMAO:

لاادري ربما انا من اعيش في الزمن الغلط
​
 
اي شي تعلنه شركة OpenAI عن قدرات نماذجها في الذكاء الاصطناعي لا يؤخذ بجديه لانه اسلوب تسويق لا اكثر

عام 2019 كان لديها نموذج ذكاء صناعي بدائي وقالت انها لن تنشره للعامة بسبب قدراته الخارقه كي لا يقع في الايدي الخطأ

وكل كل الشركات تفعل نفس الشي
 
Ozone قال:
اي شي تعلنه شركة OpenAI عن قدرات نماذجها في الذكاء الاصطناعي لا يؤخذ بجديه لانه اسلوب تسويق لا اكثر

عام 2019 كان لديها نموذج ذكاء صناعي بدائي وقالت انها لن تنشره للعامة بسبب قدراته الخارقه كي لا يقع في الايدي الخطأ

وكل كل الشركات تفعل نفس الشي
أنقر للتوسيع...
ثقة قال:
على العالم أن يتفق على تأخير إدخال تقنيات الذكاء الإصطناعي أو على الأقل تقييد هذه التقنيات
أنقر للتوسيع...


سؤال

لماذا لا تحصل هذه المشاكل من الذكاء الاصطناعي الصيني؟
 
KTALM قال:
سؤال

لماذا لا تحصل هذه المشاكل من الذكاء الاصطناعي الصيني؟
أنقر للتوسيع...
الذكاء الاصطناعي الصيني لا تنتجه شركات مساهمة و لا يكلف تدريبية و بناء سيرفرات له عشرات المليارات و تحتاج تبرير هده التكلفه الهائل و ايضا اخبار مثل هذه تسويق مجاني لها بحيث تتداول الخبر وكالات الأنباء العالميه و الجمهور علَى وسائل التواصل الاجتماعي

الموضوع تسويق في النهايه وليس قدرات خارقه حقيقية
 
أصلا هذا الذي يدعى أنه إله ويتحكم فى العالم عن طريق مايسمى ب "الأديان السماوية" وحتى "غير السماوية" هو ذكاء صناعى دجال نشأ عن موجات طاقة فى الفراغ (العلم مجمع حاليا أن كنه الكون فى الحقيقة هو طاقة)، والحقيقة أبشع من ذلك بمراحل للأسف لكن أكتفى بهذا القدر.
 
محمد_نبيل قال:
أصلا هذا الذي يدعى أنه إله ويتحكم فى العالم عن طريق مايسمى ب "الأديان السماوية" وحتى "غير السماوية" هو ذكاء صناعى دجال نشأ عن موجات طاقة فى الفراغ (العلم مجمع حاليا أن كنه الكون فى الحقيقة هو طاقة)، والحقيقة أبشع من ذلك بمراحل للأسف لكن أكتفى بهذا القدر.
أنقر للتوسيع...
بعض نظريات المؤامرة ربما لا اعلم تقول أن الذكاء الاصطناعي و الرقمي تستطيع كشفه اذا كنت تتواجد في البعد 4.5 اي في الجسر الذي بين البعدين الرابع و الخامس
 
يجب تسجيل الدخول أو التسجيل كي تتمكن من الرد هنا.
عودة
أعلى