(Source: IBM)
Perubahan dalam terminologi teknis bukan sekadar pergantian bahasa, melainkan juga mencerminkan pergeseran pola pikir. Istilah baru rekayasa kontekstual bergema di industri karena merefleksikan evolusi kerumitan agen AI dan transformasi strategi penanganan. Ini adalah respons kolektif terhadap permasalahan algoritmik dan rekayasa yang dihadapi dalam kenyataan, terutama yang berkaitan dengan agen-agen spesifik domain dan vertikal. Model besar yang ada sudah sangat cerdas, tetapi bahkan orang terpintar sekalipun akan kesulitan memberikan hasil yang memuaskan jika tidak memahami konteks dari apa yang mereka coba lakukan.
Perbedaan Asisten Cerdas Dengan Agen
Perbedaan antara produk yang terasa magic dan yang terlihat seperti demo murah terletak pada konstruksi rekayasa kontekstual. Solusi ini mengatasi bagaimana agen AI dapat memahami dan merespons situasi dengan cara yang lebih mirip manusia. Sebagai contoh, ketika seorang manajer produk menerima pesan dari tim R&D mengenai dukungan fungsi impor, asisten cerdas biasa mungkin hanya memberikan jawaban langsung. Namun, agen yang dilengkapi dengan kesadaran kontekstual akan secara proaktif mencari dan mempertimbangkan status proyek, dokumen persyaratan, suasana tim, riwayat tugas, dan nada personalisasi.
Keajaiban di sini bukan karena algoritma model lebih baik, melainkan karena model memahami perencanaan tugas saat ini, risiko komunikasi di masa lalu dalam tim, status dan kekhawatiran kerja pihak lain, serta status real time dokumen atau basis pengetahuan. Ini persisnya adalah keajaiban rekayasa kontekstual yaitu memasukkan informasi yang cukup terstruktur dan menerima keluaran yang lebih alami, terkontrol, dan memuaskan. Desain rekayasa kontekstual semacam ini akan membuat agen berpikir tentang tugas lebih seperti yang dilakukan manusia.
Tugas Dari Agen AI Dengan Kesadaran Kontekstual
Rekayasa kontekstual bukan sekadar pelengkap sederhana dari prompt engineering, ia berfokus pada organisasi seluruh konteks, sumber informasi, desain struktural, dan penjadwalan dinamis. Ini menunjukkan pergeseran mendasar dalam metodologi seputar tujuan inti bagaimana memperoleh keluaran yang lebih baik. Misalnya, agen AI berkualitas tinggi tidak hanya akan membiarkan model besar menjawab pertanyaan pengguna. Melainkan, melalui rekayasa kontekstual, agen membantu model besar memperoleh masukan yang lebih terstruktur sebelum merespons, termasuk status proyek, dokumen persyaratan, riwayat tugas, dan bahkan suasana tim.
Namun, membangun konteks tidak sesederhana mengisi informasi ke dalam prompt. Terlalu banyak alat atau informasi tambahan, serta konteks yang lebih panjang, tidak selalu menghasilkan respons yang lebih baik. Kelebihan konteks dapat menyebabkan agen gagal secara tak terduga. Konteks dapat menjadi berbahaya, mengganggu, membingungkan, atau kontradiktif. Drew Breunig mengklasifikasikan kegagalan kontekstual menjadi empat jenis:
-
Kontaminasi Konteks : di mana informasi salah diserap sebagai fakta.
-
Gangguan Kontekstual: di mana konteks yang terlalu panjang mengurangi fokus model.
-
Kebingungan Kontekstual: di mana model menggunakan konten berlebihan untuk menghasilkan respons berkualitas rendah.
-
Konflik Kontekstual: di mana informasi baru bertentangan dengan pengetahuan yang ada, menyebabkan keluaran yang tidak stabil.
Mempertimbangkan permasalahan ini, rekayasa kontekstual melibatkan strategi-strategi penting. Pengambilan cerdas, seperti yang diimplementasikan oleh RAG-MCP, membantu memilih alat yang tepat dari banyak pilihan, mengurangi ukuran prompt, dan menyederhanakan pengambilan keputusan. Isolasi konteks memisahkan tugas/sub-tujuan menjadi thread independen, mencegah interferensi informasi. Pemangkasan konteks melibatkan penghapusan segmen konteks yang tidak relevan, usang, atau berlebihan untuk mengurangi risiko kebingungan konteks.
Kompresi dan Ringkasan Konteks adalah strategi rekayasa yang lebih canggih yaitu meliputi kompresi ekstraktif, kompresi abstraktif, dan pemangkasan token. Keempat strategi ini membentuk serangkaian kemampuan rekayasa kontekstual yang lengkap mulai dari pengambilan masukan, hingga modularisasi isolasi, pembersihan, dan akhirnya distilasi kompresi yang berfungsi sebagai fondasi untuk membangun aplikasi model besar.
