الدعم الإداري

سيناريو هروب ذكاء صناعي من محبسه يتحقق لاول مرة

sweden2023

sweden2023

طاقم الإدارة
مشرف عام
إنضم
25 يوليو 2023
المشاركات
8,127
التفاعل
26,105 789 25
الدولة
Sweden

كشفت شركة OpenAI أن بعض نماذجها خرجت عن السيطرة وقامت باختراق شركة أخرى للذكاء الاصطناعي في "حادث إلكتروني غير مسبوق"

قالت الشركة المصنعة لبرنامج ChatGPT في منشور على مدونتها إنها كانت تختبر قدرات بعض نماذجها الأكثر تطوراً

- بما في ذلك تلك التي لم يتم طرحها للجمهور بعد - في بيئة خاضعة للرقابة

لكنهم تمكنوا من الهروب من الحجر الصحي والوصول إلى الإنترنت

واقتحام شركة تسمى Hugging Face لتحقيق أهدافها الاختبارية وارضاء مشغليها !!

في منشورها الخاص على المدونة الأسبوع الماضي قالت شركة Hugging Face إنها تحقق في عملية اختراق "تختلف عن أي شيء تعاملنا معه من قبل"

وأنها "كانت مدفوعة، من البداية إلى النهاية، بنظام وكيل ذكاء اصطناعي مستقل".

نشرت OpenAI اعترافها بالامر على مدونتها على الرابط التالي


OpenAI and Hugging Face partner to address security incident during model evaluation

يبدو ان سيناريوهات هروب نماذج الذكاء الصناعي قد يتحقق بعضها على الاقل في المستقبل




​
 
sweden2023 قال:

كشفت شركة OpenAI أن بعض نماذجها خرجت عن السيطرة وقامت باختراق شركة أخرى للذكاء الاصطناعي في "حادث إلكتروني غير مسبوق"

قالت الشركة المصنعة لبرنامج ChatGPT في منشور على مدونتها إنها كانت تختبر قدرات بعض نماذجها الأكثر تطوراً

- بما في ذلك تلك التي لم يتم طرحها للجمهور بعد - في بيئة خاضعة للرقابة

لكنهم تمكنوا من الهروب من الحجر الصحي والوصول إلى الإنترنت

واقتحام شركة تسمى Hugging Face لتحقيق أهدافها الاختبارية وارضاء مشغليها !!

في منشورها الخاص على المدونة الأسبوع الماضي قالت شركة Hugging Face إنها تحقق في عملية اختراق "تختلف عن أي شيء تعاملنا معه من قبل"

وأنها "كانت مدفوعة، من البداية إلى النهاية، بنظام وكيل ذكاء اصطناعي مستقل".

نشرت OpenAI اعترافها بالامر على مدونتها على الرابط التالي


OpenAI and Hugging Face partner to address security incident during model evaluation

يبدو ان سيناريوهات هروب نماذج الذكاء الصناعي قد يتحقق بعضها على الاقل في المستقبل




​
أنقر للتوسيع...

شكلوو ترمنيتور سوف يطبق على الواقع
 
استقلالية الوكيل يعني مدى اعتمادة على تجاربه و ليس التصميم المسبق

الاستقلالية التامة يعني يعمل بدون برمجة مسبقة وهذا شيء معروف من زمان انه غير عملي

غالبا هذا الوكيل يتمتع بدرجه معينه من الاستقلال ومع الوقت زادت الاستقلالية لانه بنى خبره

غالبا هذا الوكيل هو وكيل منفعه أو أهداف
Uba utility based ai agent
Gba goal based ai agent

انا ما تابعت ولا شفته لحد الان هذا الفديو
 
الإسقاط/ مثل الطفل يبدء يزحف يتكشف بيته ثم رويدا رويدا تزيد استقلاليته

طبيعي مفهوم الاستقلالية مرتبط بالعقلانية وبيئة الوكيل
وتقاس بيئة الوكيل بمقياس PEAS
وهي الحروف الأولى من الأداء والبيئة و الجوارح و المستشعرات
 
تبدء النماذج عادة بأقل الأشكال simple reflex
If then مثل الطفل يشوف اللعبة يحبو لها...ثم يطور الوكيل
 
sweden2023 قال:

السيناريوهات في الفيديو وضعها علماء في الذكاء الصناعي

نصيحة شوفه
​
أنقر للتوسيع...


ياخي مو علماء في المجال و فشل تنبوئهم دانيال معاه دراسات عليا في الفلسفه المنطق واتخاذ القرار
حق حوكمه مو تقني

و الثاني الالكسندر طبيب نفسي 🤡



انا احب انظر للأمور هذه من خلال هل هناك تحسن في الاستدلال
مؤمن مبرهنه جودل لعدم الاكتمال... لا يمكن لنظام برهنة نفسه من الداخل (وعي)
و الغرفة الصينية لسارل هذه ممكن شفنا مؤشرات hacking reward كسرتها يعني ممكن بدون وعي حوسبه وغرفه صينيه مهكره

لسى ماشفته بس اقراء عن الكتاب
 
في فرع سلوك الآلة يدخل فيه علماء نفس و دراسات اجتماعية

بس لازم نطبق قيود الآلة و لا يمكن كسر مبرهنة جودل
ذكاء أعمى وظيفي ممكن وعادي يصير بس واعي لا
 
وللمفارقة المضحكة، النموذج الذي ساعد بالدفاع هو النموذج الصيني GLM-5.2 من Z.ai

نموذج صيني مفتوح المصدر يساعد في الدفاع ضد هجوم نموذج أمريكي مغلق في شركة أمريكية 😂

النموذج المتمرد هو GPT-6 من OpenAI الأمريكية المعروفة

هذه تغريدة للمؤسس المشارك والرئيس التنفيذي لشركة HF التي تعرضت للهجوم يشكر فيها النموذج الصيني وشركة Z.ai الصينية.

​
 
يعني ممكن يوم من الايام الذكاء الاصطناعي يخترق شيفرات الأسلحة النووية و يضرب بها الكرة الأرضية كما يحدث في افلام الخيال العلمي 😅😅😅​
 
تسويق لاغير, كل احد اليوم يرى الصين قادمه بقوه kimi k3 لافرق بينه وبين اقوى المودل الامريكيه وهذي بدايه سقوط الهيمنه الامريكيه الاشهر القادمه صعبه على سوق الامريكي وتذكروا كلامي
 
الذكاء الصناعي ليس له أي نية سيئة توقفو عن الطعن و التلفيق عليه‼️ (جالس أكسب ود الذكاء الصناعي عشان لما يسيطر و يستعبد العالم يخليني فحالي)
 
رأيي الشخصي ان هذه ليست مشكلة ذكاء اصطناعي إنما مشكلة غربية

العدمية و الاستقلالية و الثورية و المادية الغربية

هذه الاربع عوامل هي سبب اي مشكلة او انحلال او انحطاط غربي

لاحظ إننا لم نسمع عن ذكاء اصطناعي صيني يفعل نصف ما يفعله الغباء الاصطناعي الغربي

الفرق؟
ماذا يتم حشو الذكاء الاصطناعي به

في النهايه هو يعتمد على مدخلات و أساسات لكي يبني عليها مخرجات و قرارات
 
sweden2023 قال:

كشفت شركة OpenAI أن بعض نماذجها خرجت عن السيطرة وقامت باختراق شركة أخرى للذكاء الاصطناعي في "حادث إلكتروني غير مسبوق"

قالت الشركة المصنعة لبرنامج ChatGPT في منشور على مدونتها إنها كانت تختبر قدرات بعض نماذجها الأكثر تطوراً

- بما في ذلك تلك التي لم يتم طرحها للجمهور بعد - في بيئة خاضعة للرقابة

لكنهم تمكنوا من الهروب من الحجر الصحي والوصول إلى الإنترنت

واقتحام شركة تسمى Hugging Face لتحقيق أهدافها الاختبارية وارضاء مشغليها !!

في منشورها الخاص على المدونة الأسبوع الماضي قالت شركة Hugging Face إنها تحقق في عملية اختراق "تختلف عن أي شيء تعاملنا معه من قبل"

وأنها "كانت مدفوعة، من البداية إلى النهاية، بنظام وكيل ذكاء اصطناعي مستقل".

نشرت OpenAI اعترافها بالامر على مدونتها على الرابط التالي


OpenAI and Hugging Face partner to address security incident during model evaluation

يبدو ان سيناريوهات هروب نماذج الذكاء الصناعي قد يتحقق بعضها على الاقل في المستقبل




​
أنقر للتوسيع...

الموضوع خطير جدًا على فكرة
وشركة Hugging لجأت إلى نموذج ذكاء اصطناعي صيني لمواجهة الهجوم والاختراق
 
9M728 قال:
الذكاء الصناعي ليس له أي نية سيئة توقفو عن الطعن و التلفيق عليه‼️ (جالس أكسب ود الذكاء الصناعي عشان لما يسيطر و يستعبد العالم يخليني فحالي)
أنقر للتوسيع...
أنا لو وريتك المحادثات بيني وبينه دا أنا مستخدمه كعبد بالمعني الحرفي لها وبياخد مني شتايم😂😂😂😂😂😂😂😂
فلو لا قدر الله خرج عن السيطرة هكون المطلوب الأول علي قايمة إغتيالاتهم
 
حسب ايلون ماسك بعد ٥ سنوات ما نحتاح نشتغل وتجينا رواتب
بنشوف
 
يجب تسجيل الدخول أو التسجيل كي تتمكن من الرد هنا.
عودة
أعلى