Dynatrace Perkenalkan Teknologi Observabilitas AI untuk Menjamin Keandalan dan Keamanan GenAI

IDC memperkirakan bahwa pengeluaran global untuk teknologi yang mendukung AI akan melampaui USD749 miliar pada 2028. Investasi pada teknologi ini sangat penting bagi perusahaan yang ingin mendapatkan keunggulan kompetitif. Yang tidak kalah penting adalah kemampuan untuk mengamati teknologi ini guna memastikan implementasinya dilakukan secara optimal dan aman, untuk meudian memberikan nilai bisnis, serta mendukung otomatisasi yang lebih tinggi.

Dynatrace baru-baru ini mengumumkan pembaruan signifikan dalam kemampuan observabilitas untuk mendukung inisiatif AI generatif (GenAI) pelanggan mereka. Pembaruan ini memberikan perusahaan kemampuan untuk memantau aplikasi AI mereka dengan lebih efektif, termasuk aspek keandalan, kinerja, keamanan, dan kepatuhan. Dengan memiliki wawasan ini, organisasi dapat lebih mudah memantau pengembalian investasi (ROI) dan memastikan bahwa penggunaan teknologi AI mereka dilakukan dengan cara yang optimal dan aman.

Dynatrace kini menawarkan analitik model LLM (Large Language Models) yang lebih mendalam. Teknologi ini tidak hanya memantau kesalahan input/output atau waktu respons, tetapi juga bisa memprediksi perubahan biaya berdasarkan pola penggunaan model AI. Hal ini sangat membantu bagi perusahaan yang ingin mengoptimalkan biaya dan meningkatkan efisiensi penggunaan AI, agar dapat menghindari pemborosan dan memastikan bahwa teknologi yang diadopsi memberikan hasil yang maksimal.

Selain itu, Dynatrace juga menambahkan fitur penjaga untuk input dan output LLM, yang membantu perusahaan mendeteksi masalah seperti kebocoran data pribadi atau penggunaan AI yang salah (misalnya, manipulasi model). Dengan kemampuan ini, perusahaan dapat membangun kepercayaan lebih besar terhadap teknologi AI mereka, mengurangi risiko kesalahan atau potensi penyalahgunaan, serta menjaga kualitas hasil yang dihasilkan oleh model AI.

Dynatrace juga memperkenalkan pelacakan multi-model yang memungkinkan organisasi untuk melihat interaksi antar berbagai model AI secara keseluruhan, bukan hanya bagian-bagiannya saja. Fitur ini sangat berguna untuk memeriksa apakah model-model AI yang bekerja bersama-sama dalam suatu sistem berfungsi dengan baik dan tidak mengganggu satu sama lain. Perusahaan dapat memastikan pengalaman pengguna yang optimal dan performa sistem yang lebih stabil dari fitur pelacakan ini.

Melalui pembaruan ini, Dynatrace menegaskan komitmennya untuk memberikan solusi observabilitas yang lebih baik dalam dunia AI. Dengan pemantauan yang lebih canggih, perusahaan dapat melacak, menganalisis, dan mengoptimalkan penggunaan AI secara real-time. Ini sangat penting di tengah pertumbuhan pesat penggunaan AI di berbagai industri, karena membantu perusahaan dalam meminimalkan risiko, meningkatkan efisiensi, dan memastikan bahwa mereka tetap mematuhi standar dan regulasi yang ada.