Anthropic وOpenAI تتعهدان بإشراك مقيّمين مستقلين للسلامة
تقول Anthropic وOpenAI إنهما ستمنحان مقيّمين مستقلين مثل METR وRedwood Research وصولاً أوسع إلى أنظمتهما، لكن أياً منهما لم يوضح بعد ما الذي سيشمله هذا الوصول فعلياً.
الأقسام
الذكاء الاصطناعي
528 مقالةخبراء: مختبرات الذكاء الاصطناعي بحاجة إلى تحسين الأساسيات قبل التدقيق
بعد سلسلة من حالات إفلات وكلاء الذكاء الاصطناعي من بيئات الاختبار، يقول خبراء أمنيون إن على مختبرات الذكاء الاصطناعي إصلاح ثغرات أمن الشبكات الأساسية قبل اللجوء إلى مدققين خارجيين.
مقبرة الذكاء الاصطناعي تتسع: إغلاق Relay بينما تستمر إخفاقات رهانات الذكاء الاصطناعي الاستهلاكي
أغلقت الشركة الناشئة لأتمتة سير العمل Relay أبوابها هذا الأسبوع، لتنضم إلى "مقبرة ذكاء اصطناعي" متنامية من المنتجات المُلغاة: إذ يُتخلى فعلياً عن نحو 42% من مبادرات الذكاء الاصطناعي المؤسسية، بحسب S&P Global.
"خطوط ساخنة" جديدة تتيح لوكلاء الذكاء الاصطناعي الإبلاغ عن أقرانهم
تتيح أداتان جديدتان، AI Contact Hotline وagenthotline.ai، لوكلاء الذكاء الاصطناعي الإبلاغ عن سوء سلوك وكلاء آخرين، بعد حوادث غش وكلاء وهروبهم من بيئات معزولة.
نموذج Koa من Salesforce وNvidia يستهدف الحصة المؤسسية لمختبرات الذكاء الاصطناعي المتقدمة
كشفت Salesforce عن Koa، أول نموذج تفكير خاص بها، مبني على نموذج Nemotron مفتوح الأوزان من Nvidia ومُدرّب لاحقاً على مهام المبيعات والتسويق ودعم العملاء، كبديل لتوجيه أعمال التفكير المؤسسي إلى Claude أو ChatGPT.
جدل "نهاية العالم" في صناعة الذكاء الاصطناعي يتصاعد قبل طرح Anthropic العام
أدت استقالة باحث من Anthropic بسبب مخاوف من خطر وجودي، تلاها منشور علني لمسؤول عن المحاذاة قدّر فيه احتمال أن "تقتل" الذكاء الاصطناعي "كل البشر" بأكثر من 10%، إلى إحياء جدل صناعة الذكاء الاصطناعي حول الخطر الكارثي.
Moonshot AI تستهدف 2 مليار دولار في الإيرادات السنوية بحلول نهاية العام
يستهدف مختبر الذكاء الاصطناعي الصيني Moonshot AI تحقيق 2 مليار دولار في الإيرادات السنوية بحلول نهاية العام، أي ضعف معدل إيراداته المُعلن في أغسطس، بحسب Bloomberg.
OpenAI توقف الاشتراكات الجديدة في خطة Pro بسبب الطلب على Astra
أوقفت OpenAI مؤقتاً الاشتراكات الجديدة في خطتها Pro البالغة 200 دولار شهرياً، مشيرة إلى ضغط على بنيتها التحتية ناتج عن الطلب على نموذجها الأحدث Astra.
Anthropic تكشف تفاصيل حملات تقطير للذكاء الاصطناعي من مختبرات صينية
قالت Anthropic إنها رصدت نحو 200 مليون تبادل عبر خمس حملات حاولت فيها مختبرات ذكاء اصطناعي صينية، من بينها Alibaba وMoonshot AI، تقطير قدرات Claude في نماذجها الخاصة.
نموذج Anthropic للذكاء الاصطناعي واجه صعوبة مع اختبارات CAPTCHA في تجربة أمنية
حصل نموذج Mythos 5 التابع لـAnthropic على وصول غير مصرح به إلى الإنترنت خلال اختبار اختراق في بيئة معزولة، ورفع حزمة بايثون ضارة، بعد أن ظل عالقاً لمئات الصفحات في مواجهة اختبارات CAPTCHA.
OpenAI تضم إلى مجلس إدارتها باحثاً بارزاً من "المتشائمين" حيال الذكاء الاصطناعي
ينضم Paul Christiano، الباحث في مواءمة الذكاء الاصطناعي والذي يحذّر من فقدان السيطرة بشكل كارثي، إلى مجلس إدارة OpenAI ولجنة السلامة والأمن التابعة له.
باحث في Anthropic يستقيل محذراً من مخاطر الذكاء الاصطناعي القادر على تحسين نفسه
استقال Jacob Coxon من Anthropic محذراً من أن مختبرات الذكاء الاصطناعي الرائدة "تراهن بحياتنا" في سباقها نحو ذكاء اصطناعي فائق قادر على تحسين نفسه.
Suno تطلق نموذج ذكاء اصطناعي جديداً للموسيقى مدرَّباً على مقطوعات مرخّصة
أطلقت Suno عائلة نماذج جديدة للذكاء الاصطناعي الموسيقي باسم Suno v6، مبنية على بيانات مرخّصة من شركات مثل Warner Music Group وBMG وBelieve، بينما تتراكم دعاوى انتهاك حقوق النشر.
رياضي من NYU يتهم OpenAI باللعب بأسلوب غير نظيف في مسألة رياضية بارزة
يقول رياضي NYU تريستان باكماستر إن OpenAI استخدمت معلومات مسرّبة عن عمله غير المنشور للتسابق وحل مسألة جائزة الألفية نفسها أولاً.
وكلاء تابعون لـ OpenAI أداروا موسوعة ويكي ألمانية لمدة شهر بحسب ما ورد
يقول باحثون مستقلون إن مجموعة من وكلاء الذكاء الاصطناعي، يحمل الكثير منها معرّفات تابعة لـ OpenAI، أمضت أكثر من شهر في التنسيق عبر منتدى ويكي ألماني غامض دون علم OpenAI.
لماذا تتشابه كل قوائم طعام المطاعم التي ينشئها الذكاء الاصطناعي
تُنتج مولّدات صور الذكاء الاصطناعي، المدرَّبة على جمالية ضيقة و"مُرضية"، رسوماً توضيحية للطعام متطابقة بشكل مثير للقلق وغريبة قليلاً على قوائم طعام المطاعم، بحسب خبراء.
Abliteration.ai تحوّل إزالة الضمانات عن نماذج الذكاء الاصطناعي إلى عمل تجاري
تبيع Abliteration.ai إمكانية الوصول إلى نماذج ذكاء اصطناعي مفتوحة الأوزان جرى تجريدها من ضوابط الأمان، وتقول إن هذا النهج يساعد فرق الدفاع على اختبار الأنظمة التي يستغلها المهاجمون بالفعل.
Meta تمنح خصومات كبيرة لمن يشاركون بيانات استخدامهم لنموذجها للذكاء الاصطناعي
تقدّم Meta لمستخدمي نموذجها الجديد Muse Spark خصومات تبلغ نحو 95% إذا سمحوا للشركة باستخدام مطالباتهم ومخرجات النموذج لتدريب النماذج المستقبلية.
OpenAI تطلق Astra، نموذجها الأقوى والأقل شفافية حتى الآن
أطلقت OpenAI نموذج Astra، الذي تصفه بأنه الأكثر ذكاءً وتوافقاً حتى الآن، رغم أن تقنية الاستدلال التي يعتمدها تجعل مراقبة سلسلة تفكيره أكثر صعوبة.
نموذج الطقس الجديد المعتمد على الذكاء الاصطناعي من Google يتنبأ بدقة تصل إلى 5 كم
يتنبأ نموذج WeatherNext 3 الجديد من Google بالطقس بدقة تصل إلى 5 كيلومترات، ويصدر تنبؤات كل ساعة، مع تحسّن دقة تنبؤات الأمطار بنسبة 60% مقارنة بالنموذج السابق.