AI Agent: AI Sudah Bisa Berpikir, Kenapa Membuatnya Bertindak Masih Sulit?
PASUNDANEKSPRES.ID - Perkembangan AI agent membuat kecerdasan buatan semakin mampu melakukan lebih dari sekadar menjawab pertanyaan. Sistem AI kini dapat melakukan reasoning, menyusun rencana, menggunakan berbagai tools, dan menjalankan sejumlah tugas secara lebih mandiri.
Namun, ada persoalan yang menjadi semakin penting ketika AI mulai bergerak dari sekadar menghasilkan informasi menuju melakukan tindakan: keputusan bukanlah tindakan.
AI dapat menghasilkan keputusan yang terlihat masuk akal. Tetapi ketika keputusan tersebut harus diwujudkan di dalam lingkungan tertentu, kondisi nyata dapat membuat rencana tersebut berubah, tertunda, atau bahkan gagal.
Persoalan ini tidak hanya muncul pada AI agent. Hal serupa juga dapat ditemukan dalam robot AI, robotika, autonomous system, hingga embodied AI.
Menariknya, AI dalam game telah lama menghadapi persoalan serupa melalui desain NPC dan lingkungan virtual yang dinamis.
AI Reasoning Belum Berarti AI Bisa Bertindak
Kemampuan AI reasoning memungkinkan sistem menganalisis informasi dan menentukan langkah yang dianggap tepat berdasarkan kondisi yang diketahui. Tetapi menghasilkan keputusan belum berarti keputusan tersebut dapat diwujudkan.
Bayangkan sebuah sistem AI mendapatkan tugas untuk mengambil sebuah benda. Sistem dapat menentukan benda yang dimaksud dan menyusun rencana untuk mengambilnya. Namun, ketika tindakan harus dilakukan, berbagai persoalan dapat muncul.
Benda mungkin berada di luar jangkauan. Jalurnya dapat terhalang. Posisi benda bisa berubah. Sistem mungkin sedang melakukan aktivitas lain. Bahkan kondisi lingkungan dapat berubah sebelum rencana selesai dijalankan.
Dengan kata lain, reasoning menghasilkan keputusan, sedangkan tindakan harus berhadapan dengan kondisi lingkungan yang sebenarnya. Perbedaan inilah yang menjadi salah satu tantangan penting dalam pengembangan AI yang semakin otonom.
AI dalam Game Menunjukkan Perbedaan Keputusan dan Tindakan
Persoalan tersebut dapat dilihat dengan sederhana melalui AI dalam game. Dalam sebuah game, NPC dapat memiliki tujuan tertentu. Misalnya, NPC ingin membantu pemain. Namun, keputusan untuk membantu tidak otomatis membuat NPC langsung dapat melakukannya.
NPC tetap harus bergerak menuju lokasi pemain, menghadapi kondisi lingkungan, menentukan bagaimana melakukan interaksi, dan menyesuaikan perilakunya ketika situasi berubah.
Jika jalurnya tertutup, pemain berpindah tempat, atau muncul kejadian lain, tindakan yang sebelumnya direncanakan mungkin tidak lagi sesuai. Di sinilah game AI menjadi menarik sebagai model konseptual.
Game menyediakan lingkungan simulasi yang memungkinkan hubungan antara agen, keputusan, tindakan, kondisi lingkungan, dan konsekuensi diamati dengan relatif jelas. Bukan berarti robot pada dasarnya sama dengan NPC.
Namun, keduanya dapat menghadapi kelas persoalan yang serupa: bagaimana sebuah keputusan diwujudkan menjadi tindakan ketika lingkungan tidak selalu mengikuti rencana sistem.
Robot AI Menghadapi Lingkungan yang Tidak Selalu Sesuai Rencana
Pada robot AI, persoalan tersebut menjadi jauh lebih kompleks karena sistem harus berinteraksi dengan dunia fisik.
Sebuah robot mungkin dirancang untuk mengambil objek tertentu. Tetapi posisi objek dapat berubah. Ada benda lain yang menghalangi. Manusia dapat masuk ke jalurnya. Kondisi permukaan dapat berbeda dari perkiraan.
Bahkan tindakan yang sebelumnya masuk akal dapat menjadi tidak relevan beberapa detik kemudian. Karena itu, kemampuan mengambil keputusan saja tidak cukup.
Sistem robot juga harus mampu menghubungkan keputusan dengan kondisi lingkungan dan menyesuaikan tindakannya berdasarkan apa yang benar-benar terjadi.
Persoalan tersebut menjadi semakin penting ketika robot bergerak dari lingkungan yang sangat terkontrol menuju lingkungan manusia yang jauh lebih dinamis.
Tantangan AI Agent di Dunia Digital
Persoalan yang sama juga muncul pada AI agent berbasis perangkat lunak. Misalnya, sebuah AI agent mendapatkan tugas untuk menyelesaikan pekerjaan melalui berbagai aplikasi dan layanan digital.
Agent dapat menyusun rencana dengan baik. Tetapi dunia digital juga memiliki kondisi yang berubah-ubah.
Sebuah halaman web dapat berubah. API dapat mengalami kegagalan. Data yang dibutuhkan mungkin tidak tersedia. Hak akses dapat berubah. Sistem eksternal dapat memberikan respons yang berbeda dari perkiraan. Artinya, sebuah AI agent tidak cukup hanya memiliki kemampuan menghasilkan rencana.
Agent juga harus mampu menghadapi kenyataan bahwa lingkungan tempat rencana tersebut dijalankan memiliki keadaan dan aturan sendiri.
Dengan demikian, persoalan AI agent bukan hanya tentang apa yang harus dilakukan, tetapi juga bagaimana sistem merespons ketika kondisi tempat tindakan tersebut dilakukan tidak sesuai dengan perkiraan awal.
Apa Hubungan Game AI dengan Robotika?
Mengapa konsep dari game AI relevan ketika membahas robotika? Jawabannya bukan karena NPC dan robot adalah sistem yang sama.
Game dan robot memiliki kebutuhan teknis yang sangat berbeda. Robot harus menghadapi sensor fisik, dinamika lingkungan, keselamatan, keterbatasan perangkat keras, dan kondisi real-time yang jauh lebih kompleks.
Namun, game memiliki karakteristik yang membuatnya berguna sebagai laboratorium konseptual.
Sebuah game memiliki agen, lingkungan, tujuan, aturan, tindakan, perubahan keadaan, dan konsekuensi. Semua komponen tersebut dapat dimodelkan secara eksplisit di dalam lingkungan simulasi.
Karena itu, game dapat membantu menjelaskan persoalan yang lebih luas mengenai hubungan antara AI dan lingkungan.
Bukan berarti solusi yang digunakan dalam game dapat langsung dipindahkan ke robot. Yang dapat dibawa adalah cara melihat masalahnya.
Ketika sebuah agen mengambil keputusan, keputusan tersebut harus berhadapan dengan dunia yang memiliki kondisi, batasan, dan perubahan sendiri.
Mengapa Embodied AI Membutuhkan Interaksi dengan Lingkungan?
Konsep tersebut menjadi semakin penting dalam perkembangan embodied AI.
Berbeda dari sistem AI yang hanya menghasilkan keluaran digital, embodied AI berhubungan lebih erat dengan lingkungan dan tindakan. Sistem tidak hanya perlu memahami informasi, tetapi juga harus berinteraksi dengan lingkungan melalui tubuh, perangkat, atau mekanisme tindakan tertentu.
Di sini muncul tantangan yang fundamental. Sebuah sistem mungkin memiliki pemahaman dan rencana yang baik, tetapi lingkungan tidak bersifat pasif.
Lingkungan dapat memberikan kondisi baru, membatasi tindakan, menghasilkan konsekuensi yang tidak diperkirakan, atau mengubah keadaan yang sebelumnya menjadi dasar pengambilan keputusan.
Karena itu, sistem yang benar-benar berinteraksi dengan lingkungan membutuhkan kemampuan untuk menghadapi perbedaan antara rencana dan kenyataan.
Ketika Dunia Tidak Mengikuti Rencana AI
Ini mungkin menjadi salah satu perbedaan penting antara AI yang hanya menghasilkan keputusan dan AI yang benar-benar berinteraksi dengan lingkungan.
Dalam lingkungan statis, sebuah rencana dapat berjalan sesuai prediksi. Dalam lingkungan dinamis, hampir selalu ada kemungkinan sesuatu berubah.
Manusia bergerak. Objek berpindah. Informasi menjadi usang. Sumber daya dapat berubah. Sistem lain mengambil tindakan. Kondisi keselamatan dapat berubah.
Karena itu, sistem yang semakin otonom tidak dapat memperlakukan rencana awal sebagai sesuatu yang mutlak. Rencana harus berhadapan dengan realitas. Ketika realitas berubah, tindakan juga mungkin harus berubah.
Tantangan AI Berikutnya Bukan Hanya Tentang Reasoning
Perkembangan AI sering diukur melalui kemampuan model memahami informasi, melakukan AI reasoning, atau menyelesaikan persoalan yang semakin kompleks.
Kemampuan tersebut tetap penting. Namun, ketika AI semakin banyak digunakan untuk bertindak secara mandiri, ukuran keberhasilannya juga mulai bergeser.
Bukan hanya:
“Apakah AI tahu apa yang harus dilakukan?”
Tetapi juga:
“Apakah AI dapat mewujudkan keputusan tersebut dalam kondisi yang sebenarnya?”
Dan pertanyaan berikutnya menjadi lebih sulit:
“Apa yang dilakukan AI ketika kondisi nyata tidak sesuai dengan rencananya?”
Pertanyaan-pertanyaan tersebut semakin relevan untuk AI agent, robot AI, autonomous system, robotika, dan embodied AI.
Masa Depan AI: Dari Berpikir Menuju Bertindak
Pada akhirnya, membuat AI lebih pintar mungkin hanya merupakan satu bagian dari persoalan.
Tantangan berikutnya adalah bagaimana kecerdasan tersebut dapat berinteraksi secara tepat dengan lingkungan yang tidak selalu dapat diprediksi, dikendalikan, atau dipaksa mengikuti rencana sistem.
Game dapat membantu menjelaskan persoalan tersebut karena game menyediakan lingkungan simulasi tempat hubungan antara agen, keputusan, tindakan, dan konsekuensi dapat diamati. Namun, persoalan sebenarnya jauh lebih luas daripada game.
Ketika AI bergerak dari chatbot menuju AI agent, robot, autonomous system, dan embodied AI, hubungan antara keputusan dan dunia akan menjadi semakin penting.
Karena AI yang mampu berpikir belum tentu mampu bertindak. Dan ketika sebuah sistem mulai benar-benar bertindak, dunia akan ikut menjadi bagian dari masalahnya.
