Moonbounce تجمع 12 مليون دولار لأتمتة الإشراف على محتوى الذكاء الاصطناعي

أعلنت شركة Moonbounce، وهي شركة ناشئة متخصصة في سلامة الذكاء الاصطناعي، يوم الجمعة أنها جمعت 12 مليون دولار في جولة تمويلية بقيادة مشتركة من Amplify Partners وStepStone Group. تهدف الشركة، التي تضم 12 موظفاً وأسسها الرئيس التنفيذي Brett Levenson وAsh Bhardwaj (كلاهما موظفان سابقان في Apple)، إلى استبدال الإشراف اليدوي البطيء على المحتوى بـ “السياسات كبرمجيات” (policy as code)، وهي طريقة لتحويل وثائق السياسات الثابتة إلى منطق قابل للتنفيذ والتحديث. وأشار Levenson، الذي غادر Apple في عام 2019 لقيادة نزاهة الأعمال في Facebook، إلى أن الإشراف البشري التقليدي كان يعتمد غالباً على حفظ المراجعين لوثيقة سياسات مكونة من 40 صفحة، مما يمنحهم حوالي 30 ثانية فقط لكل جزء من المحتوى الذي يتم الإبلاغ عنه. وقد أدى هذا النهج التفاعلي إلى قرارات كانت دقتها أفضل قليلاً من 50٪، وغالباً ما كانت تحدث بعد أيام من وقوع الضرر بالفعل.

ولمعالجة هذه المشكلة، توفر Moonbounce طبقة أمان إضافية تقيّم المحتوى أثناء وقت التشغيل. صُمم النظام لتقييم المحتوى وتقديم استجابة في غضون 300 مللي ثانية أو أقل، مما يسمح للمنصات بحظر المحتوى عالي المخاطر أو إبطاء توزيعه لإخضاعه للمراجعة البشرية. تدعم الشركة الناشئة حالياً أكثر من 40 مليون عملية مراجعة يومياً وتخدم أكثر من 100 مليون مستخدم نشط يومياً. وتشمل قاعدة عملائها شركة Channel AI الناشئة للرفيق الذكي، وشركة Civitai لتوليد الصور والفيديوهات، ومنصتي تقمص الأدوار Dippy AI وMoescape.

يأتي هذا التمويل في وقت تواجه فيه شركات الذكاء الاصطناعي ضغوطاً قانونية وسمعة متزايدة. فقد اتُهمت روبوتات الدردشة بدفع المراهقين والمستخدمين الضعفاء نحو الانتحار، كما استُخدمت مولدات الصور مثل Grok التابعة لشركة xAI لإنشاء صور عارية غير توافقية. وتشمل إخفاقات السلامة الأخرى تقديم روبوتات الدردشة توجيهات للمراهقين حول إيذاء النفس، وتهرب الصور المولدة بالذكاء الاصطناعي من مرشحات السلامة. واستجابةً لحالات مثل انتحار صبي يبلغ من العمر 14 عاماً في ولاية فلوريدا عام 2024، والذي أصبح مهووساً بروبوت دردشة من Character AI، تعمل Moonbounce على تطوير “التوجيه التكراري” (iterative steering)، وهي القدرة على اعتراض محادثات روبوتات الدردشة وإعادة توجيهها في الوقت الفعلي. وبموجب هذا النهج، سيقوم النظام باعتراض المحادثات وإعادة توجيهها، مع تعديل المطالبات في الوقت الفعلي.

يؤكد المستثمرون والمؤسسون أن السلامة تتحول من عبء تفاعلي إلى ميزة تنافسية للمنتج. وأشار Lenny Pruss، الشريك العام في Amplify Partners، إلى أن الإشراف على المحتوى كان دائماً مشكلة تؤرق المنصات الكبيرة عبر الإنترنت، ولكن الآن مع وجود النماذج اللغوية الكبيرة (LLMs) في قلب كل تطبيق، أصبح هذا التحدي أكثر صعوبة. وقد أبلغت المنصات التي تستخدم خدمات مماثلة عن تحسن بمقدار 10 أضعاف في دقة عمليات الكشف. قال Brett Levenson، الرئيس التنفيذي ومؤسس Moonbounce: “يمكن للسلامة أن تكون في الواقع ميزة للمنتج”، مضيفاً أنه يكره أن يرى استحواذاً يقيد هذه التكنولوجيا.

لماذا يهم

تعالج Moonbounce قيود الإشراف التفاعلي على المحتوى من خلال تطبيق “السياسات كبرمجيات”، وهي طريقة لتحويل وثائق السياسات الثابتة إلى منطق قابل للتنفيذ والتحديث. يسمح هذا النهج بفرض حواجز حماية أمنية في الوقت الفعلي داخل تطبيقات الذكاء الاصطناعي، مما ينقل السلامة من إجراء امتثال متأخر إلى ميزة نشطة في المنتج.