Model Claude Gov berbeza daripada versi Claude yang ditawarkan kepada pengguna awam dan syarikat. Model ini direka untuk mengendalikan maklumat sulit, menunjukkan kurang penolakan ketika memproses data rahsia, dan dioptimumkan untuk dokumen risikan serta ketenteraan. Selain itu, ia mempunyai kebolehan bahasa dan dialek yang ditambah baik untuk memenuhi keperluan operasi keselamatan negara.
Anthropic menyatakan bahawa model baharu ini telah menjalani ujian keselamatan yang sama seperti semua versi Claude. Syarikat ini sedang aktif memburu kontrak kerajaan sebagai sumber pendapatan stabil, termasuk bekerjasama dengan Palantir dan Amazon Web Services sejak November untuk menjual perkhidmatan AI kepada pihak pertahanan.
Anthropic bukanlah yang pertama menawarkan chatbot khusus kepada agensi risikan. Pada tahun 2024, Microsoft memperkenalkan versi GPT-4 OpenAI yang diasingkan untuk komuniti risikan AS selepas 18 bulan pembangunan. Sistem ini beroperasi pada rangkaian khas tanpa capaian Internet dan tersedia untuk lebih kurang 10,000 pengguna dalam komuniti risikan bagi tujuan ujian dan menjawab pertanyaan.
Sudah tentu, penggunaan AI untuk analisis risikan menimbulkan kebimbangan mengenai confabulation, iaitu fenomena di mana model menghasilkan maklumat yang nampak sahih tetapi tidak tepat. Oleh kerana rangkaian neural AI berfungsi berdasarkan kebarangkalian statistik dan bukan sebagai pangkalan data, ia boleh memberikan maklumat yang mengelirukan sekiranya digunakan secara tidak betul. Contohnya, model mungkin menghasilkan ringkasan atau analisis data sensitif yang meyakinkan tetapi salah, yang boleh membawa kepada keputusan keselamatan yang berisiko jika ketepatan tidak dijamin.
Persaingan memuncak dalam kontrak AI pertahanan
Anthropic kini bersaing dengan syarikat AI utama lain untuk mendapatkan projek kerajaan yang menguntungkan, lapor TechCrunch. OpenAI sedang memperkukuh hubungan dengan Jabatan Pertahanan AS, manakala Meta telah menawarkan model Llama mereka kepada rakan pertahanan. Google juga sedang membangunkan versi AI Gemini yang boleh beroperasi dalam persekitaran sulit. Syarikat AI berorientasikan perniagaan, Cohere, turut bekerjasama dengan Palantir untuk penyediaan model bagi kegunaan kerajaan.
Kemasukan ke dalam sektor pertahanan menandakan perubahan pendekatan bagi sesetengah syarikat AI yang sebelum ini mengelak daripada melibatkan diri dalam aplikasi ketenteraan. Model kerajaan khas ini memerlukan keupayaan berbeza daripada alat AI pengguna biasa, termasuk keupayaan memproses maklumat rahsia dan mengendalikan data risikan sensitif tanpa mencetuskan larangan keselamatan yang mungkin menghalang operasi kerajaan yang sah.
Sumber: Arstechnica »
