AI Reasoning dan Batas Pemahaman AI: Apakah AI Benar-Benar Memahami?

PASUNDANEKSPRES.ID - Artificial intelligence (AI) sekarang sudah jauh lebih canggih daripada sekadar menjawab pertanyaan sederhana. Model bahasa besar atau large language model (LLM) bisa membantu memecahkan soal matematika, menulis dan menganalisis kode, menyusun rencana, menggunakan berbagai tools, bahkan menjalankan beberapa tugas secara berurutan melalui sistem yang dikenal sebagai AI agent. 

Perkembangan ini membuat satu pertanyaan menjadi semakin menarik: 

Ketika AI terlihat mampu bernalar, apakah itu berarti AI benar-benar memahami masalah yang sedang dihadapinya? 

Jawabannya tidak sesederhana itu. 

AI memang semakin jago menyelesaikan tugas yang membutuhkan beberapa langkah pemikiran. Namun, kemampuan menghasilkan jawaban yang terlihat logis belum tentu berarti AI memahami masalah tersebut secara mendalam. Model masih bisa salah membaca konteks, menggunakan asumsi yang keliru, atau memberikan jawaban yang terdengar sangat meyakinkan padahal faktanya salah. 

Karena itu, reasoning dan understanding perlu dibedakan. 

Apa Sebenarnya yang Dimaksud dengan Reasoning? 

Secara sederhana, reasoning adalah kemampuan untuk mengolah informasi, melihat hubungan antarhal, lalu menarik kesimpulan atau menentukan langkah berikutnya. 

Dalam AI, reasoning bisa terlihat ketika model: 

• memecah masalah besar menjadi beberapa bagian, 
• membandingkan beberapa kemungkinan, 
• mengikuti aturan tertentu, 
• melakukan perhitungan, 
• mencari hubungan sebab-akibat, 
• menguji sebuah asumsi, 
• menyusun rencana, 
• atau mengevaluasi apakah jawabannya masuk akal. 

Misalnya, ketika kita memberikan soal matematika kepada AI, model tidak hanya diminta menyebutkan hasil akhir. Model juga perlu memahami informasi yang tersedia, menentukan rumus yang relevan, melakukan perhitungan, lalu memeriksa apakah hasilnya sesuai dengan pertanyaan. 

Pada tugas yang lebih kompleks, prosesnya bisa terlihat seperti ini: 

memahami tujuan → mengumpulkan informasi → memecah masalah → membandingkan pilihan → menarik kesimpulan → memeriksa hasil 

Inilah yang biasanya disebut sebagai proses reasoning. 

Namun, reasoning bukan sekadar membuat jawaban menjadi lebih panjang. Jawaban yang memiliki banyak langkah belum tentu menunjukkan penalaran yang benar. Yang lebih penting adalah apakah setiap langkah tersebut saling terhubung, sesuai dengan informasi yang tersedia, dan benar-benar membantu menyelesaikan masalah. 

Bagaimana AI Reasoning? 

AI reasoning tidak sama dengan cara yang sama seperti manusia. 

Manusia biasanya menggunakan pengalaman, pengetahuan tentang dunia, intuisi, ingatan, dan pemahaman terhadap situasi untuk mengambil keputusan. Sementara itu, LLM bekerja dengan memproses pola dalam data dan memperkirakan keluaran yang paling sesuai berdasarkan konteks yang diberikan. 

Meski begitu, dari luar, prosesnya bisa terlihat seperti penalaran. 

AI dapat menerima sebuah masalah, menguraikannya menjadi beberapa langkah, lalu menghasilkan kesimpulan. Pada model reasoning yang lebih baru, sistem bahkan dapat menggunakan lebih banyak komputasi untuk mengerjakan masalah secara bertahap sebelum memberikan jawaban akhir. 

Contohnya, ketika diminta membandingkan dua pilihan, AI mungkin akan: 

• mengidentifikasi kriteria yang perlu dibandingkan, 
• mengumpulkan informasi dari masing-masing pilihan, 
• menilai kelebihan dan kekurangannya, 
• mempertimbangkan kebutuhan pengguna, 
• lalu memberikan rekomendasi. 
• Proses seperti ini memang terlihat seperti reasoning. 

Namun, ada hal penting yang perlu diingat: 

AI bisa mengikuti pola penalaran tanpa selalu memahami alasan di balik pola tersebut. 

Model mungkin tahu bahwa jenis pertanyaan tertentu biasanya diselesaikan dengan langkah tertentu. Tetapi ketika situasinya sedikit berubah, model bisa gagal karena tidak benar-benar memahami struktur masalahnya. 

Reasoning Tidak Sama dengan Understanding 

Understanding atau pemahaman memiliki cakupan yang lebih luas daripada reasoning. 

Sistem yang benar-benar memahami sebuah persoalan idealnya tidak hanya mampu menghasilkan kesimpulan. Sistem tersebut juga perlu memiliki gambaran yang cukup tepat mengenai: 

• informasi yang sedang dibahas, 
• hubungan antarvariabel, 
• konteks masalah, 
• tujuan pengguna, 
• batasan yang berlaku, 
• serta konsekuensi dari keputusan yang diambil. 

Perbedaannya bisa dilihat melalui contoh sederhana. 

AI mungkin mampu menyelesaikan sebuah soal dengan langkah-langkah yang terlihat logis. Namun ketika angka, konteks, atau bentuk pertanyaannya sedikit diubah, model bisa memberikan jawaban yang salah. 

Hal ini dapat terjadi karena model sebenarnya tidak memahami struktur masalah, melainkan mengenali pola yang mirip dengan contoh-contoh yang pernah dipelajari. 

Jadi, AI mungkin bisa menjawab: 

“Langkah pertama adalah menggunakan rumus ini, lalu hasilnya dikalikan dengan angka tersebut.” 

Tetapi pertanyaan yang lebih penting adalah: 

“Apakah AI tahu mengapa rumus itu digunakan dan kapan rumus tersebut tidak lagi berlaku?” 

Di situlah perbedaan antara reasoning dan understanding mulai terlihat. 

Reasoning yang Terlihat Benar Belum Tentu Benar. Perkembangan reasoning model membuat AI semakin mampu mengerjakan tugas yang membutuhkan beberapa langkah. 

Model dapat diberikan lebih banyak waktu atau komputasi pada tahap inferensi agar dapat memeriksa masalah secara lebih bertahap. Pendekatan ini memang dapat meningkatkan performa pada berbagai tugas, terutama matematika, pemrograman, logika, dan perencanaan. 

Namun, proses yang lebih panjang tidak otomatis berarti proses yang lebih benar. 

AI masih bisa: 

• memulai dari asumsi yang salah, 
• salah memahami instruksi, 
• melewatkan informasi penting, 
• melakukan kesalahan di tengah proses, 
• menggunakan aturan yang tidak relevan, 
• atau menarik kesimpulan dari data yang keliru. 

Masalahnya, kesalahan tersebut sering kali disampaikan dengan bahasa yang sangat rapi. 

AI bisa menulis: 

“Berdasarkan langkah pertama, kita dapat menyimpulkan bahwa…” 

Lalu melanjutkan dengan beberapa penjelasan yang terdengar masuk akal, padahal langkah pertamanya sudah salah. 

Inilah mengapa kita tidak boleh menilai reasoning hanya dari panjang atau kerapian jawaban. Kita juga perlu melihat apakah prosesnya dapat diverifikasi dan apakah kesimpulannya benar-benar didukung oleh informasi yang tersedia. 

Lebih banyak reasoning tidak otomatis berarti lebih banyak understanding. Reasoning membantu AI menyelesaikan masalah. Understanding menentukan apakah AI benar-benar memiliki gambaran yang tepat mengenai masalah tersebut. 

Mengapa AI Reasoning Bisa Terlihat Sangat Meyakinkan Saat Salah? 

Salah satu masalah paling terkenal dalam LLM adalah hallucination. 

Hallucination terjadi ketika model menghasilkan informasi yang terdengar masuk akal, tetapi sebenarnya salah. Model bisa mengarang sumber, mencampuradukkan fakta, salah menyebut angka, atau memberikan penjelasan yang tidak memiliki dasar kuat. 

Masalah ini menunjukkan bahwa kelancaran bahasa tidak sama dengan kebenaran. 

AI dilatih untuk menghasilkan respons yang sesuai dengan konteks dan pola bahasa. Karena itu, model dapat menyusun kalimat yang sangat natural meskipun informasi di dalamnya tidak akurat. 

Model dapat menghasilkan: 

jawaban yang terdengar seperti hasil pemikiran yang matang 

tanpa jaminan bahwa: 

proses tersebut dibangun dari pemahaman masalah yang benar. 

Inilah yang membuat AI kadang lebih berbahaya ketika salah dengan cara yang meyakinkan daripada ketika salah dengan cara yang jelas. 

Jika jawabannya terlihat kacau, manusia mungkin akan langsung memeriksanya. Namun jika jawabannya tersusun rapi, menggunakan istilah teknis, dan memiliki langkah-langkah yang terlihat logis, kita bisa saja menerima jawaban tersebut tanpa melakukan verifikasi. 

AI Bisa Mengikuti Langkah, Tapi Belum Tentu Memahami Alurnya 

Salah satu cara untuk melihat kemampuan reasoning AI adalah dengan meminta model menjelaskan prosesnya. 

Misalnya, kita tidak hanya bertanya: 

“Berapa hasilnya?” 

tetapi juga: 

“Bagaimana cara kamu mendapatkan hasil tersebut?” 

Jawaban yang diberikan mungkin berisi beberapa langkah yang terlihat masuk akal. Namun, penjelasan tersebut tetap perlu diperiksa. 

AI bisa saja menghasilkan penjelasan setelah mendapatkan jawaban, bukan benar-benar menggunakan penjelasan tersebut sebagai proses utama untuk menemukan jawaban. 

Dengan kata lain, penjelasan yang terlihat seperti chain-of-thought belum tentu merupakan gambaran lengkap mengenai proses internal model. 

Karena itu, kita perlu membedakan antara: 

• jawaban yang benar, 
• alasan yang terdengar masuk akal, 
• dan proses penalaran yang benar-benar dapat dipercaya. 
• Ketiganya tidak selalu sama. 
• AI bisa mendapatkan jawaban yang benar karena kebetulan. 
• AI bisa memberikan alasan yang terlihat logis tetapi sebenarnya tidak sesuai dengan proses yang terjadi. 
• AI juga bisa menghasilkan proses yang panjang, tetapi tetap berakhir pada kesimpulan yang salah. 

Reasoning Membutuhkan Representasi Masalah 

Agar dapat bernalar dengan baik, AI perlu memiliki representasi yang cukup tepat mengenai masalah yang sedang dihadapi. 

Representasi ini bisa berupa pemahaman tentang: 

• siapa atau apa yang terlibat, 
• kondisi awal, 
• tujuan yang ingin dicapai, 
• aturan yang berlaku, 
• hubungan sebab-akibat, 
• serta perubahan yang terjadi setelah sebuah tindakan dilakukan. 

Misalnya, dalam permainan catur, AI tidak cukup hanya mengetahui bahwa bidak tertentu dapat bergerak ke posisi tertentu. AI juga perlu memperkirakan bagaimana langkah tersebut mengubah posisi papan, ancaman lawan, dan kemungkinan langkah berikutnya. 

Dalam tugas sehari-hari, hal yang sama juga berlaku. 

Jika AI diminta membantu merencanakan perjalanan, model perlu memahami: 

• tujuan perjalanan, 
• anggaran, 
• waktu yang tersedia, 
• preferensi pengguna, 
• kondisi transportasi, 
• serta kemungkinan perubahan situasi. 

Tanpa representasi masalah yang tepat, reasoning dapat berubah menjadi sekadar rangkaian langkah yang terlihat rapi tetapi tidak benar-benar terhubung dengan keadaan nyata. 

Context Window Besar Bukan Berarti AI Memahami Konteks 

Masalah berikutnya muncul ketika AI memiliki context window yang semakin besar. 

Context window adalah jumlah informasi yang dapat diproses model dalam satu percakapan atau satu permintaan. Semakin besar kapasitasnya, semakin banyak dokumen, instruksi, percakapan, atau data yang dapat dimasukkan. 

Namun, memiliki akses terhadap informasi tidak sama dengan memahami seluruh informasi tersebut. 

AI mungkin dapat menerima ratusan halaman dokumen, tetapi belum tentu mampu menggunakan semua informasi itu secara merata. Informasi penting bisa terlewat, terutama jika berada di tengah konteks yang sangat panjang atau tersebar di beberapa bagian dokumen. 

Masalahnya menjadi lebih rumit ketika AI harus menghubungkan beberapa informasi yang letaknya berjauhan. 

Misalnya, jawaban sebuah pertanyaan membutuhkan: 

• definisi yang ada di halaman awal, 
• pengecualian yang ada di bagian tengah, 
• dan data pendukung yang ada di bagian akhir. 

AI perlu menghubungkan ketiga informasi tersebut sebelum dapat memberikan jawaban yang benar. 

Proses seperti ini dikenal sebagai multi-hop reasoning. Model tidak cukup hanya menemukan satu potongan informasi. Model perlu menggabungkan beberapa potongan informasi dan memahami hubungan di antara semuanya. 

Artinya, konteks panjang memberikan kapasitas akses, bukan jaminan pemahaman konteks. 

Pertanyaan pentingnya tetap sama: 

Informasi mana yang relevan, bagaimana informasi tersebut saling berhubungan, dan apa dampaknya terhadap keputusan? 

Memory Lebih dari Sekadar Menyimpan Informasi 

Konsep ini menjadi semakin penting ketika AI memiliki memory. 

Dalam sistem AI interaktif, memory dapat digunakan untuk menyimpan informasi dari percakapan sebelumnya. Misalnya, AI assistant dapat mengingat preferensi pengguna, proyek yang sedang dikerjakan, keputusan sebelumnya, atau informasi yang relevan untuk percakapan berikutnya. 

Namun, mengingat informasi bukan berarti memahami informasi tersebut. 

Sistem bisa saja menyimpan bahwa pengguna pernah mengatakan sesuatu, tetapi belum tentu tahu: 

• apakah informasi itu masih berlaku, 
• seberapa penting informasi tersebut, 
• dalam situasi apa informasi itu relevan, 
• atau apakah informasi tersebut bertentangan dengan informasi baru. 

Karena itu, AI dengan memory membutuhkan kemampuan tambahan: 

• memilih informasi yang relevan, 
• menghubungkan informasi lama dengan situasi baru, 
• membedakan fakta dari asumsi, 
• memperbarui informasi ketika keadaan berubah, 
• mengenali informasi yang sudah tidak berlaku, 
• dan menentukan kapan sebuah memori sebaiknya tidak digunakan. 

Masalahnya kemudian bergeser dari: 

“Apakah AI bisa mengingat?” 

menjadi: 

“Apakah AI tahu kapan dan bagaimana menggunakan apa yang diingat?” 

Dari Chatbot Menuju AI Agent 

Di sinilah konsep agentic AI menjadi penting. 

Chatbot tradisional biasanya bekerja dengan pola sederhana: 

pengguna memberikan input → AI memberikan respons 

AI agent memiliki alur yang lebih panjang. Sistem dapat menerima tujuan, memecahnya menjadi beberapa tugas, membuat rencana, menggunakan tools, mengamati hasil, lalu menentukan tindakan berikutnya. 

Secara sederhana, alurnya dapat terlihat seperti: 

Tujuan → Memahami kondisi → Planning → Action → Observation → Evaluation → Next Action 

Perhatikan bahwa ada satu bagian penting sebelum planning, yaitu memahami kondisi. 

AI agent tidak cukup hanya tahu apa yang ingin dicapai. Agent juga perlu mengetahui keadaan saat ini, informasi apa yang tersedia, batasan yang berlaku, dan tindakan apa yang mungkin dilakukan. 

Misalnya, jika pengguna meminta: 

“Tolong carikan laptop terbaik untuk kebutuhan desain dengan anggaran tertentu.” 

Agent perlu: 

• memahami kebutuhan pengguna, 
• menentukan spesifikasi yang relevan, 
• mencari beberapa pilihan, 
• memeriksa harga dan ketersediaan, 
• membandingkan performa, 
• mempertimbangkan anggaran, 
• lalu memberikan rekomendasi. 

Jika agent hanya mencari laptop dengan spesifikasi tertinggi, hasilnya belum tentu sesuai. Laptop tersebut mungkin terlalu mahal, terlalu berat, atau tidak cocok dengan software yang digunakan pengguna. 

Jadi, kualitas agent tidak hanya bergantung pada kemampuan mencari informasi, tetapi juga pada kemampuan memahami tujuan dan konteks pengguna. 

Planning Bukan Berarti Memahami Dunia 

Planning adalah kemampuan menyusun langkah untuk mencapai tujuan. 

Misalnya, sebuah AI agent diberi tugas: 

“Cari informasi mengenai sebuah produk, bandingkan beberapa pilihan, lalu buat rekomendasi.” 

Agent dapat memecah pekerjaan menjadi: 

• mencari informasi, 
• mengambil data, 
• membandingkan spesifikasi, 
• menghitung perbedaan, 
• menilai kelebihan dan kekurangan, 
• menyusun rekomendasi. 
• Secara teknis, ini sudah merupakan bentuk perencanaan. 
• Namun, planning yang baik membutuhkan lebih dari sekadar daftar langkah. 

Agent juga perlu memahami: 

• apakah informasi yang ditemukan dapat dipercaya, 
• apakah semua pilihan dibandingkan dengan kriteria yang sama, 
• apakah kebutuhan pengguna sudah dipertimbangkan, 
• apakah ada batasan yang terlewat, 
• dan apakah rekomendasi tersebut benar-benar mengikuti tujuan awal. 

Jika sebuah informasi salah, tool menghasilkan data yang keliru, atau agent salah menafsirkan tujuan pengguna, seluruh rangkaian keputusan berikutnya dapat ikut terdampak. 

Karena itu, planning perlu dipandang sebagai bagian dari decision-making system, bukan bukti otomatis bahwa sistem memiliki pemahaman seperti manusia. 

AI Agent Bisa Mengambil Keputusan, Tetapi Siapa yang Memeriksa Keputusannya? 

Ketika AI hanya menghasilkan teks, kesalahan mungkin masih dapat diperiksa sebelum digunakan. 

Namun ketika AI agent diberikan akses terhadap tools dan kemampuan bertindak, konsekuensinya menjadi lebih besar. 

Sebuah kesalahan reasoning dapat menghasilkan tindakan yang salah. 

Misalnya: 

AI salah memahami tujuan → membuat rencana yang salah → menggunakan tool → mendapatkan hasil → menganggap hasil tersebut mendukung rencananya → melanjutkan tindakan. 

Masalahnya, setiap langkah bisa terlihat masuk akal jika dilihat secara terpisah. 

Agent mungkin mengatakan: 

“Saya mencari data berdasarkan kebutuhan pengguna.” 

“Saya membandingkan beberapa pilihan.” 

“Saya memilih opsi dengan skor tertinggi.” 

“Saya memberikan rekomendasi.” 

Namun, jika sejak awal agent salah memahami kebutuhan pengguna, seluruh proses tersebut tetap menghasilkan keputusan yang keliru. 

Inilah alasan mengapa agentic AI membutuhkan mekanisme seperti: 

• tool verification, 
• retrieval, 
• external validation, 
• planning checks, 
• execution constraints, 
• human oversight, 
• dan evaluasi hasil. 

Agent yang lebih otonom bukan berarti agent yang boleh bekerja tanpa pengawasan. Justru semakin besar kemampuan agent untuk bertindak, semakin penting sistem tersebut memiliki batasan dan mekanisme pemeriksaan. 

AI yang Lebih Besar Belum Tentu Memahami Lebih Dalam 

Ada anggapan bahwa jika model dibuat lebih besar, kemampuan AI akan terus meningkat hingga akhirnya menghasilkan pemahaman yang semakin dalam. Skala memang penting. 

Model yang lebih besar dan komputasi yang lebih banyak dapat meningkatkan kemampuan pada banyak tugas. Model reasoning juga menunjukkan bahwa tambahan komputasi pada tahap inferensi dapat membantu AI menyelesaikan persoalan tertentu dengan lebih baik. 

Namun, scale bukan sinonim understanding. 

Model yang lebih besar tetap bisa: 

• salah memahami pertanyaan, 
• melewatkan informasi penting, 
• menghasilkan hallucination, 
• gagal menghadapi situasi baru, 
• atau menggunakan pola lama pada masalah yang sebenarnya berbeda. 

Model juga dapat terlihat sangat pintar pada benchmark tertentu, tetapi belum tentu memiliki kemampuan yang sama ketika menghadapi kondisi dunia nyata yang lebih berantakan dan tidak terstruktur. 

Jadi pertanyaannya bukan lagi: 

“Seberapa besar modelnya?” 

Melainkan: 

“Kemampuan apa yang sebenarnya meningkat ketika model diperbesar?” 

Apakah model menjadi lebih akurat? 

Apakah model lebih mampu memeriksa kesalahannya? 

Apakah model lebih baik dalam memahami konteks? 

Apakah model tahu kapan dirinya tidak yakin? 

Atau model hanya menjadi lebih lancar dalam menghasilkan jawaban? 

Reasoning, Memory, Context, dan Action Harus Bekerja Bersama 

Perkembangan AI modern menunjukkan bahwa kemampuan yang kita sebut sebagai “intelligence” sebenarnya terdiri dari banyak komponen. 

Sebuah sistem agentik yang kuat mungkin membutuhkan: 

• Reasoning untuk mengolah masalah dan menghubungkan informasi. 
• Context untuk mengetahui keadaan saat ini. 
• Memory untuk mempertahankan informasi yang relevan. 
• Planning untuk menentukan langkah berikutnya. 
• Tools untuk memperoleh informasi atau melakukan tindakan. 
• Observation untuk mengetahui hasil tindakan. 
• Evaluation untuk memeriksa apakah hasil tersebut sesuai dengan tujuan. 
• Uncertainty awareness untuk mengetahui kapan sistem perlu berhenti, bertanya, atau meminta bantuan manusia. 
• Tidak satu pun dari komponen tersebut sendirian cukup untuk menghasilkan sistem yang benar-benar memahami dunia. 
• AI dengan reasoning tetapi tanpa memory mungkin kesulitan mempertahankan tujuan dalam tugas panjang. 
• AI dengan memory tetapi tanpa evaluasi bisa terus menggunakan informasi yang sudah tidak relevan. 
• AI dengan context window besar tetapi tanpa kemampuan memilih informasi bisa kewalahan oleh terlalu banyak data. 
• AI dengan planning tetapi tanpa observation bisa terus mengikuti rencana yang sudah tidak sesuai dengan keadaan. 
• AI dengan kemampuan action tetapi tanpa verification bisa melakukan kesalahan dengan dampak nyata. 

Namun ketika semua komponen tersebut digabungkan dengan baik, AI mulai bergerak dari model yang menghasilkan respons menjadi sistem yang dapat melakukan proses pengambilan keputusan. 

Jadi, Apakah AI Benar-Benar Memahami? 

Jawabannya bergantung pada apa yang dimaksud dengan “memahami”. 

Jika memahami berarti mampu memproses informasi, menemukan hubungan, melakukan reasoning, menyusun rencana, dan menghasilkan tindakan yang sesuai, maka AI modern sudah menunjukkan kemampuan yang sangat signifikan. 

AI sudah bisa mengerjakan banyak hal yang sebelumnya membutuhkan kemampuan manusia: 

• menyelesaikan soal bertahap, 
• menganalisis dokumen, 
• menemukan pola, 
• membandingkan pilihan, 
• menulis kode, 
• menyusun strategi, 
• dan menjalankan tugas melalui tools. 

Namun, jika memahami berarti memiliki representasi dunia yang stabil, mampu menghubungkan informasi dengan konteks secara fleksibel, mengetahui batas pengetahuannya, menggeneralisasi ke situasi baru, serta memahami konsekuensi tindakan secara konsisten, persoalannya jauh lebih kompleks. 

AI bisa reason tanpa selalu understand. 

AI bisa remember tanpa benar-benar memahami arti memorinya. 

AI bisa memiliki context window besar tanpa menggunakan seluruh konteks secara efektif. 

AI bisa plan tanpa memiliki model dunia yang sepenuhnya akurat. 

Dan AI agent bisa act tanpa selalu mengetahui apakah tindakannya benar. 

Masa Depan AI Bukan Hanya tentang Model yang Lebih Besar 

Perkembangan berikutnya kemungkinan bukan sekadar perlombaan membuat model yang semakin besar. 

Fokusnya semakin bergeser menuju sistem yang dapat: 

• melakukan reasoning dengan lebih andal, 
• menjelaskan dasar dari kesimpulannya, 
• memeriksa kembali langkah-langkahnya, 
• mengetahui kapan dirinya tidak yakin, 
• menggunakan memory secara selektif, 
• memahami konteks yang panjang, 
• melakukan planning secara adaptif, 
• menggunakan tools untuk memverifikasi informasi, 
• belajar dari hasil tindakan, 
• dan menjaga konsistensi antara tujuan, keputusan, serta tindakan. 

Dengan kata lain, tantangannya adalah membangun sistem kecerdasan, bukan sekadar model yang menghasilkan teks lebih baik. 

Chatbot terutama menjawab. Reasoning model berusaha menyelesaikan masalah yang lebih kompleks. AI agent berusaha mencapai tujuan melalui rangkaian keputusan dan tindakan. 

Namun ketiganya masih menghadapi pertanyaan yang sama: 

Apakah kemampuan menghasilkan jawaban, melakukan reasoning, dan mengambil tindakan sudah cukup untuk disebut memahami? 

Sampai sekarang, jawabannya belum sederhana. Justru semakin canggih AI menjadi, semakin penting membedakan antara kemampuan melakukan proses intelektual dan pemahaman yang mendasari proses tersebut. 

Karena masa depan AI mungkin tidak ditentukan hanya oleh seberapa pintar sebuah model menjawab pertanyaan. 

Masa depan AI akan ditentukan oleh seberapa baik sebuah sistem memahami keadaan, mengetahui keterbatasannya, memeriksa proses penalarannya, mengambil keputusan, dan bertindak secara tepat ketika berhadapan dengan dunia nyata.