A10 Networks memperkenalkan platform bernama A10 AI Gateway untuk membantu perusahaan mengatur pemanfaatan kecerdasan buatan dari satu titik kendali.

Platform ini direncanakan meluncur pada kuartal keempat tahun ini untuk merespons kebutuhan korporasi yang memakai banyak layanan model bahasa besar.

Pengelolaan Permintaan dan Kontrol Biaya

Sistem pada platform tersebut bekerja dengan menganalisis tingkat kerumitan setiap perintah sebelum meneruskannya ke model yang paling sesuai.

Perintah sederhana akan diarahkan ke model dengan biaya lebih rendah, sementara tugas rumit dikirim ke sistem penalaran yang lebih mumpuni.

Pendekatan itu diklaim mampu menekan anggaran operasional tanpa menurunkan performa yang diperlukan oleh para pengguna di perusahaan.

Keamanan dan Kedaulatan Data

A10 AI Gateway juga dilengkapi sistem akses berbasis identitas yang terhubung langsung dengan direktori pengguna milik instansi.

Perusahaan dapat memantau pengeluaran secara langsung dalam bentuk nilai uang serta menetapkan batasan token maupun permintaan per menit.

Perangkat lunak ini dapat dipasang secara mandiri atau diintegrasikan dengan perangkat keras di lingkungan internal perusahaan.