Cara menerapkan agen AI di perusahaan: rencana praktis

Chatbot menjawab pertanyaan. Agen AI mengerjakan pekerjaan: membaca permintaan, menentukan langkah-langkah, memakai alat seperti CRM atau sistem tiket Anda, memeriksa hasilnya, dan terus bekerja sampai tugas selesai.

Kemampuan itu sekaligus menjadi risikonya. Agen yang bertindak bisa bertindak keliru, dan melakukannya dengan cepat. Artikel ini menjelaskan proses apa yang cocok untuk agen, cara menerapkannya dengan aman, dan apa yang perlu direncanakan sejak awal.

Apa yang membedakan agen

	Apa yang dilakukan	Siapa yang menentukan langkah
Skrip atau workflow	Mengikuti aturan yang tetap	Pengembang, sejak awal
Chatbot	Menjawab dalam bentuk teks	Tidak ada: tidak ada tindakan yang diambil
Agen AI	Merencanakan dan bertindak dengan alat	Model, dalam batas yang ditetapkan

Jika langkah-langkahnya selalu sama, skrip lebih murah, lebih cepat, dan lebih andal. Agen masuk akal ketika masukan bervariasi dan jalan menuju hasil bergantung pada masukan tersebut.

Proses apa yang cocok untuk agen

Proses pertama yang baik memiliki ciri-ciri berikut:

• Sering berulang. Volumenya cukup besar sehingga penghematannya berarti.
• Masukannya tidak terstruktur. Email, dokumen, dan permintaan bebas yang sulit ditangani dengan aturan.
• Hasilnya dapat diperiksa. Anda dapat membedakan hasil yang baik dari yang buruk, idealnya secara otomatis.
• Kesalahan dapat diperbaiki. Draf yang keliru murah; pembayaran yang keliru tidak.

Contoh umumnya adalah memilah dan menjawab permintaan dukungan, mengekstrak data dari dokumen, menyiapkan laporan rutin, dan menangani permintaan internal.

Hindari memulai dengan proses yang kesalahannya mahal dan tidak dapat dibatalkan, atau ketika tidak ada yang bisa menjelaskan seperti apa hasil yang benar.

Rencana penerapan agen

1. Ukur proses dalam kondisi saat ini

Catat berapa lama pekerjaan itu berlangsung, berapa biayanya, dan seberapa sering terjadi kesalahan. Tanpa tolok ukur awal ini, Anda nantinya tidak dapat mengatakan apakah agen benar-benar membantu.

2. Tetapkan tugas dan batasnya

Jelaskan apa yang dilakukan agen, apa yang tidak boleh dilakukannya, dan kapan ia menyerahkan kasus kepada manusia. Agen yang sempit dan melakukan satu hal dengan baik jauh lebih mudah diuji daripada asisten serba bisa.

3. Berikan hak seminimal mungkin

Mulailah dengan akses baca saja. Tambahkan tindakan tulis satu per satu, dan hanya yang dibutuhkan tugas. Agen sebaiknya memiliki akunnya sendiri dengan izinnya sendiri, sehingga tindakannya terlihat dan dapat dicabut. Menghubungkan alat melalui lapisan standar seperti server MCP membantu mengendalikan hal ini di satu tempat.

4. Libatkan manusia dalam proses

Pada awalnya, mengirim pesan kepada pelanggan, mengubah catatan, atau mengeluarkan uang sebaiknya memerlukan persetujuan manusia. Hapus langkah persetujuan hanya jika data menunjukkan bahwa agen bekerja dengan andal.

5. Susun rangkaian uji

Kumpulkan kasus nyata dengan hasil benar yang sudah diketahui, termasuk kasus yang sulit dan tidak biasa. Jalankan setiap kali ada perubahan pada model, instruksi, atau alat. Perilaku agen dapat berubah setelah salah satu perubahan tersebut.

6. Bangun lingkungan di sekitar model

Model hanyalah bagian dari sistem. Agent harness menyediakan alat, izin, memori, pemeriksaan, log, dan batasan. Dalam praktiknya, sebagian besar keandalan berasal dari lapisan ini, bukan dari pilihan model.

7. Jalankan pilot dalam mode bayangan

Biarkan agen bekerja berdampingan dengan manusia tanpa memengaruhi apa pun, dan bandingkan hasilnya dengan hasil mereka. Kemudian beralihlah ke kerja dengan persetujuan, dan baru setelah itu ke otonomi terbatas.

8. Catat dan tinjau

Simpan catatan setiap langkah: apa yang dilihat agen, apa yang diputuskannya, dan apa yang dilakukannya. Ketika terjadi masalah, hanya dengan cara ini Anda dapat memahami penyebabnya. Tunjuk penanggung jawab yang jelas yang meninjau kualitas secara berkala.

Risiko yang perlu direncanakan

• Prompt injection. Agen membaca teks dari luar, dan teks itu bisa berisi instruksi yang ditujukan kepadanya, misalnya di dalam email atau halaman web. Perlakukan semua konten yang masuk sebagai data yang tidak tepercaya, dan batasi apa yang dapat dilakukan agen meskipun ia berhasil diperdaya. Ini adalah risiko teratas dalam OWASP Top 10 untuk aplikasi LLM.
• Hak yang terlalu luas. Semakin banyak yang dapat dilakukan agen, semakin besar kerusakan akibat satu kesalahan.
• Kebocoran data. Data pribadi dan rahasia dapat sampai ke model dan layanan eksternal. Tentukan data apa yang boleh dikirim ke mana, dan lihat di mana menjalankan AI perusahaan.
• Biaya yang tak terkendali. Agen yang terjebak dalam perulangan terus menghabiskan biaya. Tetapkan batas jumlah langkah, waktu, dan anggaran.
• Kepercayaan buta. Jawaban yang meyakinkan membuat orang berhenti memeriksa. Pertahankan pemeriksaan acak bahkan setelah awal yang baik.

Agen juga bergantung pada data: jika catatan salah atau definisi berbeda antarsistem, agen akan bertindak berdasarkan informasi yang keliru dengan cepat. Tata kelola data dasar juga memberikan hasil di sini.

Ringkasan

Mulailah dengan satu proses berulang yang hasilnya dapat diperiksa. Berikan agen hak seminimal mungkin, pertahankan kendali manusia, uji dengan kasus nyata, dan catat semuanya. Perluas otonominya hanya jika angka-angkanya mendukung.

Kami menjalankan tim agen AI kami sendiri, di mana satu agen mengerjakan pekerjaan dan agen lain memeriksanya, sehingga kami memahami persoalan ini secara langsung. Untuk menerapkannya di perusahaan Anda, lihat layanan agen AI kami.

Sumber

• OWASP Top 10 for LLM Applications, OWASP
• AI Risk Management Framework, NIST