OpenAI mengumumkan ketersediaan pemrosesan serta inferensi lokal untuk layanan OpenAI API di wilayah India.

Langkah ini memungkinkan para pengembang dan perusahaan yang memenuhi syarat menjalankan beban kerja kecerdasan buatan di dalam batas domestik.

Pembaruan tersebut diluncurkan pertama kali untuk model GPT-6 Luna.

Inisiatif ini memperluas kapabilitas residensi data OpenAI yang sudah ada untuk menjawab persyaratan kepatuhan serta regulasi yang ketat.

Perluasan Residensi Data untuk Inferensi

Bagi banyak perusahaan di India, lokasi fisik komputasi data sering kali menentukan apakah sebuah proyek kecerdasan buatan dapat dilanjutkan ke tahap produksi.

Kerangka kepatuhan sebelumnya sebagian besar hanya mengatur residensi data saat diam.

Peluncuran kali ini memperluas cakupan lokal hingga mencakup seluruh siklus hidup inferensi.

Penerimaan permintaan API dan komputasi dasar yang menghasilkan respons kini terjadi di infrastruktur domestik.

Konten pelanggan yang didukung tetap tersimpan di India.

Hal ini memungkinkan organisasi menerapkan kecerdasan buatan pada alur kerja internal seperti analisis dokumen tanpa mengirim data ke pusat data internasional.

Strategi infrastruktur ini sejalan dengan program OpenAI for India yang diperkenalkan sebelumnya untuk memperluas adopsi perusahaan.

Inisiatif tersebut mencakup kolaborasi berkelanjutan dengan Tata Group dalam mengembangkan kapasitas pusat data domestik.

Nitin Bawankule selaku Head of Enterprise India di OpenAI menyatakan bahwa beberapa bisnis lokal sebelumnya belum sepenuhnya memanfaatkan kecerdasan buatan karena kendala pemrosesan data.

Inferensi lokal memberikan kontrol lebih besar atas lokasi jalannya beban kerja yang didukung.