NadiAI
Berita AI global. Ringkas. Jelas. Mudah Diikuti
Kategori
Satu entri di blog Hugging Face membincangkan istilah berkaitan agen AI, merujuk konsep seperti "Harness" dan "Scaffold". Artikel itu menggariskan mengapa istilah dan terma perlu diformulasikan dengan teliti dalam konteks pembangunan dan penggunaan agen AI.
OpenAI memperkenalkan 'Child Safety Blueprint', satu rangka kerja yang menggariskan pendekatan untuk membina AI secara bertanggungjawab dengan langkah perlindungan khusus untuk kanak‑kanak. Dokumen itu menekankan reka bentuk mengikut umur, keselamatan terbina dalam, dan kerjasama antara pihak berkepentingan untuk melindungi serta memperkasakan pengguna muda dalam talian.
OpenAI memperkenalkan Model Spec sebagai rangka awam untuk mengarahkan tingkah laku model AI, bertujuan menyeimbangkan keselamatan, kebebasan pengguna dan akauntabiliti. Dokumen ini dimaksudkan untuk memberi panduan semasa kemampuan sistem AI terus berkembang.
OpenAI mengumumkan program Safety Bug Bounty untuk mengesan penyalahgunaan dan risiko keselamatan pada sistem AI. Fokus termasuk kerentanan agentik, suntikan arahan (prompt injection) dan eksfiltrasi data.
OpenAI menerbitkan polisi keselamatan khusus untuk remaja yang direka sebagai panduan berasaskan prompt bagi pembangun menggunakan gpt-oss-safeguard. Polisi ini bertujuan membantu mengurus dan mengurangkan risiko berkaitan umur dalam sistem AI.
Menurut OpenAI, Sora 2 dan aplikasi Sora dibina dengan asas keselamatan untuk menangani cabaran baharu yang timbul daripada model video canggih dan platform penciptaan sosial. Pendekatan mereka berasaskan perlindungan konkrit.
Menurut OpenAI, mereka memperkenalkan CoT‑Control untuk menguji kemampuan model penalaran mengawal 'chain of thought'. Hasil awal menunjukkan model sukar mengawal rantaian fikirannya sendiri, menonjolkan cabaran pemantauan dalaman.
OpenAI berkongsi kemas kini mengenai usaha keselamatan berkaitan kesihatan mental. Ia menyenaraikan kemajuan pada kawalan ibu bapa, sistem kenalan dipercayai, peningkatan pengesanan tanda kesusahan, dan perkembangan litigasi terkini, menurut OpenAI.
OpenAI for Government mengumumkan penyebaran ChatGPT versi khusus pada platform GenAI.mil. Langkah ini bertujuan menyediakan keupayaan AI yang menekankan keselamatan dan prinsip keselamatan untuk pasukan pertahanan A.S.
OpenAI menerangkan pendekatannya untuk pelokalan AI, menunjukkan cara model frontier yang dikongsi secara global boleh disesuaikan kepada bahasa, undang-undang, dan budaya tempatan. Mereka menegaskan penyesuaian itu dilakukan tanpa mengorbankan keselamatan.
OpenAI memperkenalkan Trusted Access for Cyber, rangka kerja berasaskan kepercayaan yang, menurut syarikat itu, meluaskan akses kepada kemampuan siber frontier sambil mengukuhkan langkah-langkah untuk menghalang penyalahgunaan. Rangka kerja ini cuba menyeimbangkan ketersediaan teknologi dengan kawalan keselamatan yang lebih ketat.
OpenAI mengemas kini Model Specnya dengan Prinsip Bawah-18 yang menentukan bagaimana ChatGPT harus memberikan panduan selamat dan sesuai umur berdasarkan sains perkembangan. Kemas kini itu memperkukuh kawalan, menjelaskan tingkah laku yang dijangka dalam situasi berisiko lebih tinggi, dan membina usaha sedia ada untuk meningkatkan keselamatan remaja dalam ChatGPT.