Red Hat OpenShift AI Penuhi Kebutuhan Hybrid Cloud di Enterprise

Jakarta – Red Hat mengembangkan Red Hat OpenShift AI (artificial intelligence) dan machine learning (ML) guna memenuhi kebutuhan hybrid cloud di enterprise.

Langkah ini guna mewujudkan visi pelanggan ke dunia beban kerja cerdas dari hardware mendasar hingga ke layanan dan tools seperti Jupyter dan PyTorch.

“Membawa AI ke dalam enterprise bukan lagi ‘jika’, ini adalah persoalan ‘kapan.’ Enterprise butuh platform AI yang lebih unggul, konsisten dan fleksibel untuk meningkatkan produktivitas, meningkatkan pendapatan, dan mendukung diferensiasi pasar,” kata Chief Product Officer and Senior Vice President Red Hat, Ashesh Badani.

Peningkatkannya akan menjadikan inovasi yang lebih cepat, meningkatkan produktivitas dan kapasitas untuk menyertakan AI ke dalam operasional bisnis sehari-hari.

Langkah ini melalui platform yang lebih fleksibel, skalabel dan beradaptasi, yang mendukung model prediktif dan generatif, dengan atau tanpa menggunakan lingkungan cloud.

“Dengan kombinasi kvant AI dan Red Hat OpenShift AI, perusahaan akan dilengkapi secara sempurna untuk mengintegrasikan model prediktif dan generatif, tanpa harus bersusah payah, sehingga memberdayakan siapa saja untuk membuat aplikasi AI dengan percaya diri dan kelincahan,” tutur CEO (Chief Executive Officer) Phoenix Technologies, Thomas Taroni.

Pelanggan menghadapi banyak tantangan saat memindahkan model AI dari fase eksperimen ke fase produksi seperti peningkatan biaya hardware, kekhawatiran mengenai privasi data, dan kekurangpercayaan untuk berbagi data dengan model berbasis SaaS.

AI generatif (GenAI) berubah secara cepat, sehingga banyak perusahaan kesulitan untuk membangun core AI platform yang bisa diandalkan dan berjalan di on-premise atau cloud.

“Jawaban Red Hat terhadap permintaan enterprise AI dalam skala besar adalah Red Hat OpenShift AI, yang memungkinkan pemimpin TI menjalankan aplikasi cerdas di manapun di seluruh hybrid cloud sekaligus menumbuhkan dan menyempurnakan operasional dan model yang dibutuhkan untuk mendukung terwujudnya aplikasi produksi dan layanan,” ujar Ashesh Badani.

International Data Corporation (IDC) berpendapat enterprise harus memodernisasi banyak aplikasi yang dipakainya dan lingkungan datanya dalam menggunakan AI.

Selain itu menghilangkan penghalang antara sistem dan platform penyimpanan di dalam perusahaannya.

Hal lainnya adalah meningkatkan keberlanjutan infrastruktur dan berhati-hati dalam memilih tempat menjalankan beban kerja yang berbeda di cloud, pusat data, dan edge.

Dengan begitu Red Hat menilai platform AI harus fleksibel untuk mendukung enterprise saat bergerak maju dalam pengadopsian AI, kebutuhan, dan adaptasi sumber daya mereka.

Untuk fleksibilitas di seluruh hybrid cloud disediakan Red Hat berupa kemampuan meningkatkan foundation model yang pre-trained atau sudah dikurasi dengan data pelanggan dan kebebasan untuk mendukung berbagai akselerator hardware dan software.

Fitur-fitur Red Hat OpenShift AI terbaru sudah bisa memenuhi kebutuhan-kebutuhan tadi berkat akses ke inovasi AI/ML terbaru dan dukungan dari ekosistem mitra yang ekspansif dan AI sentris.

Red Hat OpenShift AI 2.9 menyajikan model serving di edge memperluas penerapan model AI ke lokasi terpencil menggunakan OpenShift node tunggal.

Begitupula memberikan kemampuan inferensi di lingkungan yang sumber dayanya terbatas dengan akses air-gapped network.

Fitur pratinjau teknologi ini memberikan perusahaan pengalaman operasional yang skalabel dan konsisten mulai dari core hingga ke cloud dan ke edge serta mencakup kemampuan observasi yang luar biasa.

Hal lainnya model serving yang ditingkatkan dengan kemampuan untuk menggunakan beberapa server model untuk mendukung AI prediktif dan GenAI.

Langkah ini termasuk dukungan untuk KServe, sebuah definisi sumber daya khusus Kubernetes yang mengatur serving untuk semua jenis model, vLLM dan text generation inference server (TGIS), mesin serving untuk LLM dan runtime Caikit-nlp-tgis, yang menangani natural language processing (NLP).

Peningkatannya akan menjadikan pengguna menjalankan AI prediktif dan GenAI pada satu platform untuk beberapa penggunaan, sehingga mengurangi biaya dan menyederhanakan pengoperasian.

Hal ini memungkinkan model serving yang luar biasa untuk LLM dan menyederhanakan alur kerja pengguna di sekitarnya.

Kemampuan lainnya mendistribusikan beban kerja dengan Ray, menggunakan CodeFlare dan KubeRay, memanfaatkan beberapa cluster node untuk pemrosesan data, dan pelatihan model yang lebih cepat dan efisien.

Ray adalah kerangka kerja untuk mempercepat beban kerja AI, dan KubeRay membantu mengelola beban kerja ini di Kubernetes. CodeFlare merupakan pusat dari kemampuan beban kerja terdistribusi Red Hat OpenShift AI.

Hal ini menyediakan kerangka kerja bagu pengguna dan membantu memudahkan orkestrasi dan pemantauan tugas.

Kemampuan antrean dan manajemen terpusat memungkinkan pemanfaatan node secara optimal, dan pengalokasian sumber daya, seperti GPU. Hal ini untuk pengguna dan beban kerja yang tepat.

Kemudian, pengembangan model yang lebih baik melalui ruang kerja proyek dan gambar workbench tambahan yang memberikan fleksibilitas kepada para data scientist untuk menggunakan IDE dan toolkit.

Langkah ini termasuk VS Code dan RStudio dan sebagai pratinjau teknologi dan CUDA yang disempurnakan, untuk berbagai kasus penggunaan dan jenis model.

Berikutnya, visualisasi model monitoring untuk metrik kinerja dan operasional, meningkatkan kemampuan observasi terhadap kinerja model AI.

Terakhir, profil akselerator terbaru yang menjadikan administrator mengonfigurasi berbagai jenis akselerator hardware yang tersedia untuk pengembangan model dan alur kerja model-serving.

Hal ini memberikan akses pengguna yang mandiri dan simpel ke jenis akselerator yang tepat untuk beban kerja tertentu.

Red Hat OpenShift AI menjadi landasan watsonx.ai dari IBM, enterprise di berbagai industri dan memperlengkapi diri mereka. Aplikasi ini juga mendorong lebih banyak inovasi dan pertumbuhan AI, termasuk AGESIC dan Ortec Finance.

Teknologi open source telah menyandingkan inovasi yang pesat dengan biaya teknologi informasi yang lebih rendah dan mengurangi penghambat dalam inovasi selama 30 tahun lebih.

Red Hat mulai dari menyediakan platform Linux open enterprise dengan RHEL pada awal 2000-an. Perusahaan ini juga mendorong container dan Kubernetes sebagai fondasi untuk open hybrid cloud dan komputasi cloud-native dengan Red Hat OpenShift.

Red Hat juga mendukung AI/ML di seluruh open hybrid cloud, beban kerja AI berjalan baik di pusat data, beberapa public cloud atau di edge.

Perusahaan ini membawa pelatihan model dan tuning down di jalur yang sama untuk mengatasi keterbatasan seputar kedaulatan data, kepatuhan dan integritas operasional dengan lebih baik. (adm)