NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Keputusan pentadbiran Trump yang memaksa Anthropic menarik balik model terbaharu keselamatan siber mungkin bersifat reaktif atau balas dendam. Isyaratnya jelas: industri AI tidak kebal terhadap campur tangan kerajaan AS.
Menurut The Verge, Anthropic kini berdepan pertikaian dengan kerajaan AS, termasuk tentera, serta arahan 12 Jun untuk menyekat akses asing kepada Fable 5 dan Mythos 5. Syarikat itu melancarkan model pada 9 Jun dan mendakwa Fable 5 melebihi keupayaan model lain, namun implikasi peraturan dan keselamatan masih belum jelas.
Atas permintaan White House, Anthropic mengambil model AI terbaharu dan paling berkuasa di luar talian serta-merta, selepas diarahkan menyekat akses untuk warganegara asing termasuk kakitangan sendiri. Kejadian itu memberi peringatan bahawa kawalan AS ke atas model canggih boleh mendorong minat terhadap penyelesaian AI bukan Amerika.
Puluhan pakar keselamatan siber mendesak White House untuk membatalkan sekatan kawalan eksport ke atas model Anthropic Fable dan Mythos. Mereka berhujah sekatan itu akan menyukarkan pembela keselamatan untuk menguji dan mengamankan perisian serta produk mereka.
Menurut laporan Semafor, keputusan Rumah Putih mengenakan sekatan eksport terhadap model Mythos keluaran Anthropic sebahagiannya dipacu oleh kebimbangan bahawa kumpulan berkaitan China mungkin telah mengaksesnya. Jika kerajaan China benar-benar mendapat akses kepada Mythos 5 atau Fable 5, ia boleh menimbulkan isu keselamatan negara yang serius.
OpenAI dan Anthropic menerbitkan penemuan daripada penilaian keselamatan bersama pertama seumpamanya yang menguji model satu sama lain untuk isu seperti ketidakselarasan, pematuhan arahan, halusinasi dan jailbreaking. Laporan itu menonjolkan kemajuan, cabaran yang masih wujud, dan manfaat kerjasama antara makmal.
Anthropic menangguhkan akses kepada model AI baharu, menurut laporan. Pemimpin teknologi India membincangkan sama ada kejadian itu merupakan panggilan bangun kepada ambisi AI negara.
Wall Street Journal melaporkan arahan kawalan eksport yang menyebabkan Anthropic memutus akses kepada Fable 5 dan Mythos 5 sebahagiannya dicetuskan oleh penyelidikan keselamatan siber daripada Amazon. Laporan itu juga menyebut perbualan antara CEO Andy Jassy dan Rumah Putih serta makalah Amazon, tetapi butiran lengkap klaim tidak disertakan dalam petikan sumber.
TechCrunch melaporkan CEO Amazon, Andy Jassy, mungkin membangkitkan kebimbangan keselamatan yang mendorong Anthropic menutup akses dua modelnya secara global pada Jumaat. Anthropic menghentikan akses tersebut sementara dan butiran lanjut masih belum disahkan.
Kerajaan mengarahkan Anthropic pada Jumaat malam untuk menyekat akses Fable 5 dan Mythos 5 kepada semua negara asing, termasuk pengguna di luar dan dalam AS, atas alasan keselamatan negara. Anthropic mematuhi arahan itu dengan memutuskan akses kepada model tersebut untuk semua pelanggan, termasuk kakitangannya.
Kerajaan menarik balik model AI paling berkuasa Anthropic selepas amaran keselamatan. Anthropic berkata ia tidak bersetuju bahawa penemuan potensi jailbreak yang terhad wajar menyebabkan penarikan model komersial yang digunakan oleh ratusan juta orang.
Anthropic melancarkan Cowork, ejen desktop Claude yang diberi akses folder tempatan untuk membaca, mengedit dan mencipta fail pengguna tanpa keperluan pengaturcaraan. Ciri ini kini dalam pratonton penyelidikan untuk pelanggan Claude Max di macOS dan menyokong automasi pelayar serta penyambung perkhidmatan luaran.