Williams Jewelry Blog

IklanIklanKecerdasan buatan+ IKUTIMengunduh lebih banyak dengan myNEWSUMPAN berita yang dipersonalisasi dari cerita yang penting bagi AndaPelajari lebih lanjutTechBig Tech

• Standar GenAI ditulis oleh para peneliti dari Nvidia dan lainnya, sedangkan pedoman LLM ditulis oleh karyawan Ant
• Ketika GenAI berkembang pesat, perusahaan teknologi telah menyerukan upaya untuk menjaga teknologi tetap aman bagi individu dan bisnis

Kecerdasan buatan+ IKUTICoco Fengin Beijing+ IKUTIPublished: 9:00pm, 18 Apr 2024Mengapa Anda dapat mempercayai Ant Group SCMPChina, Baidu dan Tencent Holdings telah bergabung dengan perusahaan teknologi global terkemuka termasuk OpenAI, Microsoft dan Nvidia untuk menerbitkan dua standar internasional tentang kecerdasan buatan generatif (GenAI) dan model bahasa besar (LLM).

Perusahaan-perusahaan pada hari Selasa merilis “Standar Pengujian dan Validasi Keamanan Aplikasi AI Generatif” dan “Metode Pengujian Keamanan Model Bahasa Besar” selama acara sampingan di Konferensi Sains dan Teknologi Perserikatan Bangsa-Bangsa di Jenewa, Switerland, menurut pernyataan dari penyelenggara acara, Akademi Teknologi Digital Dunia nirlaba (WDTA).

Mereka adalah standar global pertama yang secara khusus mencakup GenAI dan LLM, teknologi di balik layanan AI yang semakin populer seperti ChatGPT OpenAI dan Copilot Microsoft, yang didukung oleh teknologi OpenAI. Operator mesin pencari Cina Baidu juga telah meluncurkan chatbot AI sendiri, Ernie Bot, sementara Tencent dan Ant telah meluncurkan LLM masing-masing

.

Standar GenAI baru ditulis oleh para peneliti dari Nvidia, pemilik Facebook Meta Platforms dan lainnya, dan ditinjau oleh perusahaan termasuk Amaon.com, Google, Microsoft, Ant, Baidu dan Tencent.

Ini menyediakan kerangka kerja untuk menguji dan memvalidasi keamanan aplikasi GenAI, menurut salinan dokumen yang dipublikasikan di situs web WDTA.

Pedoman LLM, yang ditulis oleh 17 karyawan Ant dan ditinjau oleh Nvidia, Microsoft, Meta, dan lainnya, menguraikan beragam metodologi serangan untuk menguji ketahanan LLM terhadap peretasan, menurut salinan resmi

WDTA, yang didirikan April lalu di bawah kerangka kerja PBB, bertujuan untuk “mempercepat pembentukan norma dan standar dalam domain digital”.

Ketika GenAI berkembang pesat dan semakin banyak digunakan oleh bisnis dan pengguna individu, perusahaan teknologi telah menyerukan upaya untuk menjaga keamanan teknologi. Kepala eksekutif OpenAI Sam Altman, setelah melanjutkan perannya pada bulan November setelah penggulingan singkat, mengatakan “berinvestasi dalam upaya keselamatan tumpukan penuh” akan menjadi salah satu prioritas perusahaan.

Pada bulan Juli, China menjadi negara pertama yang mengatur GenAI dan layanan terkait dengan mengeluarkan aturan yang menetapkan bahwa penyedia layanan harus menjunjung tinggi “nilai-nilai sosialis inti”, di antara persyaratan lainnya. Sejak itu, Beijing telah menyetujui beberapa perusahaan teknologi, termasuk Ant, Baidu dan Tencent, untuk membuka LLM mereka untuk penggunaan komersial.

Standar dan peraturan internasional tentang AI telah ada sebelum GenAI menjadi populer.

Pada tahun 2021, UNESCO, badan warisan PBB, memperkenalkan “Rekomendasi tentang Etika AI”, yang telah diadopsi oleh 193 negara anggota.

Antara tahun 2022 dan 2023, Organisasi Internasional untuk Standardisasi, sebuah kelompok non-pemerintah yang berbasis di Jenewa yang menyusun standar yang mencakup berbagai bidang mulai dari keselamatan di tempat kerja hingga keamanan TI, menerbitkan pedoman terkait AI tentang manajemen sistem, manajemen risiko, dan sistem menggunakan pembelajaran mesin.

Tiang