Tim engineering mengadopsi AI untuk bergerak lebih cepat, dan menurut satu ukuran, hasilnya berhasil. Survei Bain tahun 2026 terhadap para pemimpin teknologi senior menemukan bahwa developer menyelesaikan sekitar 21% lebih banyak tugas dengan AI, tetapi waktu review naik sekitar 91%. Kesimpulan Bain sendiri tegas: review oleh manusia kini menjadi kendala utama. Temuan ini penting bagi siapa pun yang menerapkan AI agent human in the loop. Jika setiap output agent berakhir di meja seseorang, orang itu menjadi hambatan, dan menambah agent hanya memperpanjang antrean.
Artikel ini membahas apa yang ditunjukkan data, mengapa beban review tumbuh lebih cepat daripada output, dan bagaimana merancang serah terima agent agar manusia dalam proses tersebut memeriksa bukti, bukan mengerjakan ulang pekerjaannya.
AI membuat engineer lebih cepat. Review justru menjadi lebih lambat.
Adopsi bukan lagi pertanyaannya. Riset DORA Google 2025 melaporkan bahwa adopsi AI di kalangan profesional pengembangan perangkat lunak melonjak hingga 90%, dan adopsi tersebut kini dikaitkan dengan throughput pengiriman perangkat lunak yang lebih tinggi. Lebih banyak kode, perubahan, dan tiket mengalir melalui sistem.
Yang belum berskala adalah proses pemeriksaannya. Survei Teknologi dan Engineering Bain terhadap 293 pemimpin teknologi senior, yang dijalankan pada April 2026, memberikan angkanya: sekitar 21% lebih banyak tugas selesai, dibandingkan sekitar 91% lebih banyak waktu untuk review. Pekerjaan datang lebih cepat daripada kemampuan orang untuk memastikan kebenarannya.
Tim DORA memandang AI sebagai amplifier. Dalam kata-kata mereka, peran utama AI adalah "memperbesar kekuatan dan kelemahan yang sudah ada dalam organisasi". Proses review yang sudah kewalahan tidak menjadi lebih mudah ketika volume yang masuk meningkat. Masalahnya justru semakin riuh.

Mengapa AI agent human in the loop menemui batas review
Human-in-the-loop menggambarkan sistem di mana manusia berpartisipasi aktif dalam pengoperasian AI, dengan memberikan arahan, umpan balik, dan pengawasan. Untuk AI agent yang bertindak pada sistem produksi, pengawasan tersebut biasanya berarti seseorang membaca temuan agent lalu memutuskan langkah berikutnya. Modelnya sudah tepat. Kapasitasnyalah yang menjadi masalah.
Lima kali lebih banyak agent, satu reviewer
Responden Bain memperkirakan peningkatan jumlah agent per tim hingga hampir lima kali lipat. Jika setiap agent hanya memberikan jawaban mentah ("penyebabnya adalah database"), reviewer harus merekonstruksi penalarannya sebelum bisa memercayainya. Mereka membuka kembali dashboard, menjalankan ulang query, dan membaca ulang log. Pada titik itu, agent hanya menghemat sedikit, dan reviewer kini memiliki lima kali lebih banyak jawaban untuk diverifikasi.
Artikel Bain yang sama menjelaskan bagaimana satu organisasi engineering bervolume tinggi menanganinya: sekitar 1.300 pull request buatan AI di-merge setiap minggu, semuanya melewati review manusia yang sama seperti perubahan lainnya. Review manusia tetap ada. Yang perlu berubah adalah seberapa besar upaya yang dibutuhkan setiap review.
Pola yang sama muncul di operasional
Ini bukan hanya soal coding. Bab keamanan siber pada laporan Bain yang sama mencatat bahwa pemindaian berbasis AI telah mendorong peringatan kerentanan naik hingga delapan kali lipat, dan merekomendasikan otomatisasi perbaikan yang lebih sederhana "dengan human in the loop".
Tim on-call paham hitungannya. Panduan SRE Google menemukan bahwa menangani satu insiden on-call, termasuk postmortem, memakan waktu rata-rata sekitar 6 jam, itulah sebabnya beban dibatasi maksimal 2 insiden per shift 12 jam. Setiap alert yang diselidiki oleh AI SRE agent tetap berakhir dengan manusia yang memutuskan tindakan selanjutnya. Jika manusia tersebut harus mengulang investigasi agar percaya pada hasilnya, insiden akan memakan waktu sama lamanya seperti sebelumnya.
Apa yang membuat review manusia cepat
Solusinya bukan menyingkirkan manusia. Solusinya adalah mengubah apa yang diserahkan kembali oleh agent. Responden Bain menempatkan guardrail keamanan, risiko, dan tata kelola sebagai pendorong utama untuk menskalakan agent, sebesar 43%, dan 41% mengharapkan model berjenjang berdasarkan risiko, di mana perubahan berisiko lebih tinggi diteruskan ke manusia. Tata kelola AI agent yang baik mempercepat review, karena memberi tahu reviewer dengan tepat apa yang sedang mereka tinjau.
Tetapkan cakupan sebelum dijalankan
Reviewer bergerak lebih cepat ketika sudah mengetahui batasannya. Panduan Microsoft tentang tata kelola agent menyarankan tim untuk memberi agent akses hanya ke sumber data spesifik yang dibutuhkan untuk fungsinya. Ketika peran, data, dan tool agent ditetapkan di awal, reviewer tidak perlu bertanya-tanya apa lagi yang disentuhnya.
Bukti bersama jawaban
Temuan yang disertai buktinya adalah temuan yang bisa diperiksa. Artinya mencakup query yang dijalankan, hasil yang dikembalikan, dan sinyal yang menjadi dasar kesimpulan. Forrester menyatakan standarnya dengan jelas: setiap tindakan otonom harus tercatat dan dapat dipertanggungjawabkan kepada auditor. Catatan yang sama yang memenuhi kebutuhan auditor memungkinkan engineer mengonfirmasi akar masalah tanpa mulai dari awal.
Persetujuan sesuai tingkat risiko
Tidak semua output memerlukan pengawasan yang sama. Forrester merekomendasikan memulai agent pada tugas terbatas dengan gerbang persetujuan dan jalur rollback, lalu memperluas otonomi seiring terbuktinya kontrol. Permintaan persetujuan yang menyebutkan tindakannya, jangkauannya, dan apakah dapat dibatalkan memungkinkan reviewer memutuskan dalam sekali baca.

Penerapan pada AI SRE dan respons insiden
Bayangkan alert latensi pada layanan checkout pukul 14:25. Agent yang hanya memberi jawaban mentah menjawab "kemungkinan deploy yang bermasalah". Reviewer lalu menghabiskan setengah jam untuk membuktikannya.
Agent yang mengutamakan bukti menjawab dengan event deploy pukul 14:20, metrik connection pool yang mentok di batasnya sejak 14:22, jumlah timeout dari log, dan latensi p95 dari trace sampel, ditambah rollback bertahap yang menunggu persetujuan. Reviewer memindai empat bukti, memeriksa cakupan rollback, lalu memutuskan. Manusia yang sama, akuntabilitas yang sama, dengan pekerjaan ulang yang jauh lebih sedikit.
Itulah pergeseran yang dibutuhkan respons insiden AI seiring bertambahnya jumlah agent: manusia tetap berada dalam proses, tetapi prosesnya menjadi lebih singkat. Untuk pembahasan lebih dalam tentang memisahkan investigasi dari keputusan, baca artikel kami tentang AI dalam operasi TI, di mana agent menyelidiki dan manusia memutuskan.
Bagaimana Toby AI Agents membantu
Toby AI Agents adalah rekan tim AI yang berjalan di dalam workspace TrueWatch Anda dengan telemetri yang sudah ada. Semuanya dirancang berdasarkan serah terima yang dijelaskan di atas.
- Cakupan yang Anda tetapkan. Anda menentukan peran, cakupan data, dan tool yang boleh digunakan setiap agent. Peran mencakup SRE, Security, AppDev, FinOps, dan Custom.
- Investigasi, lalu temuan. Agent menyelidiki, menjalankan pemeriksaan, dan mengembalikan temuan beserta usulan perbaikan. SRE Agent, misalnya, membaca metrik, log, dan trace untuk layanan dalam cakupannya, lalu menyampaikan kemungkinan penyebab, buktinya, serta perubahan rollback atau scaling untuk disetujui.
- Bukti pada setiap eksekusi. Setiap eksekusi dicatat beserta tool yang dipanggil, hasil yang dikembalikan, dan bukti di balik jawabannya.
- Persetujuan Anda untuk setiap perubahan. Apa pun yang mengubah sistem menunggu persetujuan Anda. Permintaan menampilkan tindakan, cakupannya, dan apakah dapat dibatalkan, dengan pilihan Approve atau Decline.
- Di tempat tim Anda sudah bekerja. Agent bekerja dari dashboard, alert, query DQL, Slack, atau perangkat seluler, mewarisi konteks seperti rentang waktu, layanan, dan filter, serta berjalan berdasarkan alert, jadwal, atau pertanyaan.
Jika Anda ingin mengetahui pemikiran desain di balik kontrol-kontrol tersebut, baca bagaimana kami merancang kepercayaan ke dalam Toby AI Agents.

FAQ
Apa itu AI agent human in the loop?
Mereka adalah AI agent yang mengerjakan tugas seperti investigasi atau analisis, lalu menyerahkan keputusan kembali kepada manusia. Manusia meninjau hasilnya dan menyetujui atau menolak setiap tindakan, terutama yang mengubah sistem produksi.
Mengapa AI meningkatkan waktu review?
Survei Bain 2026 menemukan bahwa developer menyelesaikan sekitar 21% lebih banyak tugas dengan AI, sementara waktu review naik sekitar 91%. Output yang lebih banyak berarti lebih banyak yang harus diverifikasi, dan output tanpa bukti pendukung memaksa reviewer mengulang pekerjaan agar bisa memercayainya.
Bagaimana tata kelola AI agent mempercepat review?
Cakupan yang jelas, bukti yang tercatat, dan persetujuan berbasis risiko memberi tahu reviewer apa yang bisa diakses agent, apa yang ditemukannya, dan apa yang ingin dilakukannya. Dengan begitu, review menjadi pemeriksaan bukti, bukan investigasi baru.
Apakah Toby AI Agents melakukan perubahan produksi secara mandiri?
Tidak. Toby AI Agents menyelidiki dalam cakupan yang Anda tetapkan dan mengusulkan perbaikan. Setiap perubahan menunggu persetujuan Anda, dan setiap eksekusi menyimpan tool yang dipanggil, hasil yang dikembalikan, dan bukti di balik jawabannya.
Delegasikan investigasi, pertahankan keputusan
AI sudah membuat pekerjaan lebih cepat. Langkah berikutnya adalah mempercepat review, tanpa menyingkirkan manusia dari prosesnya. Agent yang menyerahkan kembali temuan yang tercakup dan didukung bukti, lalu menunggu persetujuan, menjaga engineer Anda tetap memegang kendali sekaligus mengembalikan jam kerja yang biasanya habis untuk memeriksa ulang. Lihat cara kerja Toby AI Agents.

