NadiAIGlobal AI news. Concise. Clear. Easy to follow.
OpenAI dan Anthropic menerbitkan penemuan daripada penilaian keselamatan bersama pertama seumpamanya yang menguji model satu sama lain untuk isu seperti ketidakselarasan, pematuhan arahan, halusinasi dan jailbreaking. Laporan itu menonjolkan kemajuan, cabaran yang masih wujud, dan manfaat kerjasama antara makmal.
Anthropic menangguhkan akses kepada model AI baharu, menurut laporan. Pemimpin teknologi India membincangkan sama ada kejadian itu merupakan panggilan bangun kepada ambisi AI negara.
Wall Street Journal melaporkan arahan kawalan eksport yang menyebabkan Anthropic memutus akses kepada Fable 5 dan Mythos 5 sebahagiannya dicetuskan oleh penyelidikan keselamatan siber daripada Amazon. Laporan itu juga menyebut perbualan antara CEO Andy Jassy dan Rumah Putih serta makalah Amazon, tetapi butiran lengkap klaim tidak disertakan dalam petikan sumber.
TechCrunch melaporkan CEO Amazon, Andy Jassy, mungkin membangkitkan kebimbangan keselamatan yang mendorong Anthropic menutup akses dua modelnya secara global pada Jumaat. Anthropic menghentikan akses tersebut sementara dan butiran lanjut masih belum disahkan.
Kerajaan mengarahkan Anthropic pada Jumaat malam untuk menyekat akses Fable 5 dan Mythos 5 kepada semua negara asing, termasuk pengguna di luar dan dalam AS, atas alasan keselamatan negara. Anthropic mematuhi arahan itu dengan memutuskan akses kepada model tersebut untuk semua pelanggan, termasuk kakitangannya.
Kerajaan menarik balik model AI paling berkuasa Anthropic selepas amaran keselamatan. Anthropic berkata ia tidak bersetuju bahawa penemuan potensi jailbreak yang terhad wajar menyebabkan penarikan model komersial yang digunakan oleh ratusan juta orang.
Anthropic melancarkan Cowork, ejen desktop Claude yang diberi akses folder tempatan untuk membaca, mengedit dan mencipta fail pengguna tanpa keperluan pengaturcaraan. Ciri ini kini dalam pratonton penyelidikan untuk pelanggan Claude Max di macOS dan menyokong automasi pelayar serta penyambung perkhidmatan luaran.
Salesforce memperkenalkan Slackbot yang dibina semula sebagai ejen AI berkuasa, mampu mencari data syarikat, merangka dokumen dan mengambil tindakan untuk pekerja. Versi baru menggunakan model Claude daripada Anthropic, akan sokong pembekal lain, dan disediakan tanpa kos tambahan untuk pelanggan Business+ dan Enterprise+.
Anthropic memohon maaf kerana secara senyap mengehadkan model terbarunya, Claude Fable 5, dengan kawalan (guardrails) tersembunyi yang menjejaskan penyelidik dan pesaing. Syarikat itu berkata ia akan membalikkan langkah itu dan menjadi lebih telus tentang bila sekatan diaktifkan, walaupun bermakna Fable mungkin menolak lebih banyak pertanyaan.
Menurut TechCrunch AI, Dario Amodei di Anthropic hanya mempunyai seorang laporan langsung. Artikel itu juga menyorot kecerdasan dan pendekatan kepimpinan beliau.
Anthropic melancarkan Claude Fable, model Mythos pertamanya, tetapi sumber mengatakan Microsoft menghadkan penggunaan Claude Fable 5 oleh kakitangan kerana keperluan baharu berkaitan simpanan data. Microsoft bagaimanapun segera mengedarkan Claude Fable 5 kepada pelanggan GitHub Copilot dan Foundry.
Anthropic mengumumkan Claude Fable 5 sebagai model paling berkuasa yang pernah dikeluarkan dan menonjolkan kebolehannya dalam biologi. Namun model itu tidak menjawab soalan biologi asas yang biasa boleh dijawab pelajar sekolah menengah dan sebaliknya mengalihkannya kepada model flagship terdahulu.