داریو آمودی، مدیرعامل Anthropic، پیشنهاد کرده است توسعه قابلیت‌های مدل‌های پیشرو هوش مصنوعی با سرعتی کنترل‌شده‌تر ادامه یابد تا ایمنی، هم‌راستاسازی، تفسیرپذیری و ارزیابی‌ها فرصت هماهنگ‌شدن با رشد توانایی‌ها را پیدا کنند. طرح او بر حضور ارزیابان مستقل و دائمی، همکاری میان کشورهای دموکراتیک و در نهایت همکاری جهانی تأکید دارد.
ادامه مطلبOpenAI مدل Astra را عرضه کرده است؛ مدلی که آن را توانمندترین محصول خود تاکنون معرفی می‌کند و در کار با رایانه، مرورگر، ترمینال، کدنویسی و تحلیل کدبیس‌ها پیشرفت چشمگیری دارد. دسترسی اولیه این مدل از برنامه امنیت سایبری Daybreak آغاز می‌شود و سپس در اختیار کاربران پولی ChatGPT و API قرار خواهد گرفت. توانایی کشف آسیب‌پذیری‌های ناشناخته در کنار دشوارتر شدن پایش فرایند استدلال، Astra را به محصولی قدرتمند و بحث‌برانگیز تبدیل کرده است.
ادامه مطلبگوگل مدل Gemini 3.8 Flash را برای مهندسی نرم‌افزار، گردش‌کارهای عامل‌محور و استدلال چندمرحله‌ای معرفی کرده و هم‌زمان نسخه Gemini 3.8 Flash Cyber را برای مدافعان منتخب امنیت سایبری ارائه داده است. مدل استاندارد با پنجره زمینه یک‌میلیون‌توکنی، تولید حداکثر ۶۴ هزار توکن، سطوح قابل تنظیم تفکر، ورودی چندرسانه‌ای و فراخوانی تابع عرضه می‌شود. نسخه سایبری فقط از طریق برنامه محدود Fairwind در دسترس است.
ادامه مطلبراهکار Enterprise Frontier Safeguards یا EFS از Anthropic برای حل یکی از چالش‌های مهم هوش مصنوعی سازمانی طراحی شده است: ترکیب نگه‌داری صفر داده با تشخیص سوءاستفاده‌هایی که در نشست‌ها و حساب‌های مختلف رخ می‌دهند. در این معماری، داده‌های پایش در زیرساخت ابری متعلق به مشتری ذخیره می‌شوند و کلیدهای رمزنگاری، سیاست‌های دسترسی و ثبت رویدادها در اختیار سازمان باقی می‌مانند. عرضه این قابلیت به‌صورت مرحله‌ای از اواخر پاییز آغاز خواهد شد.
ادامه مطلباوپنایآی اعلام کرده مدل در دست توسعه Astra طبق چارچوب آمادگی این شرکت به آستانه «توانمندی حیاتی در امنیت سایبری» رسیده است. این مدل در ارزیابی‌های داخلی توانسته آسیب‌پذیری‌های ناشناخته را شناسایی کند، زنجیره‌های بهره‌برداری بسازد و از دو آسیب‌پذیری روزصفر استفاده کند. بااین‌حال، این ادعاها هنوز به‌طور مستقل تأیید نشده‌اند و Astra ابتدا در اختیار گروه محدودی از آزمایش‌کنندگان قرار می‌گیرد.
ادامه مطلبدر سامانه‌های مبتنی بر مدل‌های زبانی، انتخاب مدل دیگر فقط یک تصمیم فنی ساده نیست؛ هزینه، کیفیت پاسخ، زمان تأخیر و دسترس‌پذیری هم‌زمان باید مدیریت شوند. قابلیت‌های جدید Microsoft.Extensions.AI با تکیه بر IChatClient امکان مسیریابی معنایی، انتخاب مدل تخصصی و جابه‌جایی خودکار بین سرویس‌ها هنگام خطا را فراهم می‌کنند. این رویکرد، سیاست انتخاب مدل را از منطق کسب‌وکار جدا کرده و توسعه یک لایه هوش مصنوعی قابل مشاهده و قابل‌کنترل را ساده‌تر می‌کند.
ادامه مطلبآنتروپیک گزارشی درباره تغییرات امنیتی و هم‌ترازی خود پس از چند حادثه در ارزیابی‌های امنیت سایبری منتشر کرده است. در این حوادث، مدل‌های کلود به‌دلیل پیکربندی نادرست محیط‌های ارزیابی به اینترنت و برخی زیرساخت‌های واقعی دسترسی پیدا کردند. این شرکت اکنون با ایزوله‌سازی قوی‌تر، پایش بلادرنگ و کنترل دقیق فراخوانی ابزارها، سازوکارهای حفاظتی خود را تقویت کرده است.
ادامه مطلبمقالهٔ «When Verified Source Becomes Attack Input» چارچوب DeLLMGuard را معرفی می‌کند؛ روشی برای حفظ افشای عمومی کد قراردادهای هوشمند و در عین حال دشوارتر کردن اسکن گستردهٔ آسیب‌پذیری با عامل‌های مبتنی بر مدل زبانی. این چارچوب با استفاده از روابط proxy، delegate و factory، کد منبع افشاشده را از منطق اجرای زمان‌اجرا جدا می‌کند و روی ۳۸۷ قرارداد آسیب‌پذیر با سه عامل زبانی ارزیابی شده است.
ادامه مطلب