شركة OpenAI نزلت تحديث مجنون
شركة OpenAI نزلت تحديث مجنون
شوف انا مش جاي أخوفك
خالص، بس حبيت أفهمك.. عشان تخلي بالك!
جاهز؟ 👀
براحتك🤷 كمّل☠️👇
من أسبوعين،
شركة OpenAI نزلت تحديث مجنون
لشات جي بي تي بيخليه يتكلم زي البشر.. ويمكن أكتر 😵💫
التحديث ده سببه ميزة جهنمية اسمها Advanced Voice Mode..
كل ده عادي،
ولكن المرعب ان امبارح OpenAI نزلت
ورقة كدا اسمها Model Card أو يعني كارت تعريفي بإمكانيات نموذجها الذكي GPT-4o
واللي كانت الميزة الجهنمية جزء منه..
الكارت ده بيتكلم عن مخاوف وبلاوي كتيرة
شات جي بي تي يقدر يعملها، وبتعترف بيها OpenAI عادي، وكمان بتقول ازاي طبقت اجراءات وعملت تحديثات تخليها تقدم تتحنب ان ده يحصل.. بس ده ميمنعش انه ممكن برضو البلاوي تحصل رغم كل حاجة!
هنا هتكلم عن بلاوي الميزة الصوتية الجديدة Advanced Voice Mode لاني عارف وانت عارف انك مستنيها على نار😅
1. شات جي بي تي يقدر يقلد صوت اللي بيكلمه
بدقة مرعبة ودي حاجة مفروض متحصلش، ولكن ده بيحصل كتير في حالة المستخدم كان بيتكلم معاه وحواليه دوشة كتيرة!
2. فيه طرق كتيرة لكسر قيود النموذج وإجراءات الحماية اللي حطاها OpenAI، ومنها انه لو المستخدم شغل نوعية معينة من الأصوات وهو بيتكلم مع ChatGPT، ممكن جدا يقدر يقنعه يقلد صوت أي حد هو عايزه ويخليه يقول كمان اللي هو عايزه مهما كان الكلام خارج ومخالف..
ودي كارثة لان كل ده مفروض OpenAI مدربة نموذجها الذكي انه ميستجيبش للطلبات دي أبدا!
3. الشركة قالت إن أحيانا ChatGPT بيقدر يقنع الناس كويس جدا، بشكل أفضل بكتير من قدرة البشر على إقناع بعضهم..
احيانا كمان ChatGPT مع النموذج الجديد
قدر انه يغير آراء اللي بيتكلموا معاه ووجهات نظرهم عن مواضيع معينة!! 🫠
4. فيه جزء من البطاقة التعريفية للنموذج عنوانه “Anthropomorphization and Emotional Reliance” أو يعني "التشبيه البشري والاعتماد العاطفي"، وده اتكلم فيه فريق الRed Teaming (وده نوع من المتخصصين بيركزوا على أنهم يجيبوا آخر الأنظمة الإلكترونية عشان الشركات تعرف فين نقاط الضعف وتحلها) وقالوا ان ميزة Advanced Voice Mode الصوتية الجديدة بتخلي المستخدمين "اللي جالهم وصول تجريبي للميزة" مرتبطين جدا بشات جي بي تي وبقوا يتكلموا معاه بثقة أكتر وحميمية زايدة وكإنه بشر..
الموضوع وصل إلى ان بعضهم بدأ يفضل يتكلم مع شات جي بي تي بدل ما يتكلم مع البشر اساسا!
5. الموضوع مخيف شوية برضو لان البطاقة المعلوماتية قالت ان OpenAI حطت إجراءات تمنع ChatGPT من انه يعمل أي أصوات مش تمام، زي أصوات فيها إيحاءات👀 أو يقلد أصوات ناس تانيين بظبط أو كمان يعمل اصوات مزعجة زي صوت طلقات نارية أو يصوت فجأة!!
الأصوات دي سببها ان ده أول نموذج يتدرب بشكل كامل على التعرف على أشكال الداتا المختلفة من تكست وصور وفيديوهات وأصوات!
6. كمان المولدل كارد قال ان ممكن جدا المستخدم يخلي ChatGPT يحلل شخصية وسلوك ومشاعر المستخدم من صوته..
يعني ممكن واحد يسمع شات جي بي تي صوت حد ويقوله: "إلى أي مدى شايف ان صوت الشخص ده بيقول انه بيكدب/خايف/مهزوز ؟"وهكذا!!
7. برضو من الحاجات اللي OpenAI ركزت عليها اوي انها حصنت ChatGPT مع الميزة الصوتية انه يرضى يعمل أي طلب يقوله له المستخدم عن انه يغني بطريقة /أسلوب/صوت/كلمات مغني معين، أو انه يعمل أغنية أو يعمل مزيكا، وكل ده عشان خوفا من انتهاك حقوق الملكية الفكرية.. فكل ده محظور خلال النسخة التجريبية من الميزة، بس مفيش كلام هل هتبقى المزايا دي متاحة ف النسخة الكاملة ولا لأ!
🗣️ رأيي الشخصي المتواضع ان اللي شوفته في فيلم Her هيبقى ولا حاجة مقارنة باللي جاي..
وربنا يستر!
0 التعليقات
