Red Hat Tingkatkan Dukungan AI untuk Perusahaan Telko

Awal tahun ini Chris Wright telah mengungkapkan apa yang akan terjadi selanjutmya pada penyedia layanan pada 2024. Dari sini kita tahu fokus perusahaan telko adalah mengadopsi intelligent automation dan teknologi AI.

Langkah ini untuk meningkatkan efisiensi bisnis dan operasional di seluruh jaringan, keamanan, infrastruktur dan aplikasi dalam lingkungan hybrid.

Sejak itu Red Hat sudah meluncurkan sejumlah proyek menarik pada acara Red Hat Summit 2024, termasuk memperkenalkan Red Hat Enterprise Linux (RHEL).

Jadi, merupakan peningkatan pada Red Hat OpenShift AI dan akan menyediakan platform AI yang kuat untuk perusahaan telekomunikasi (telko).

Selain itu membantu mereka meningkatkan operasional, mengurangi biaya, menyempurnakan layanan pelanggan, dan mendorong inovasi. Hari ini, saya secara khusus ingin menyoroti bagaimana beberapa solusi berbasis AI akan membantu perusahaan telko tetap kompetitif.

Kemampuan ini untuk mendeteksi penipuan yang mengalami peningkatan dalam pengelolaan data, jaringan otonom dan optimasi sumber daya.

Selain itu pengelolaan trafik jaringan, pengelolaan energi, chatbots, dukungan pelanggan yang makin dipersonalisasi, model AI di radio access networks (RAN) dan core untuk memenuhi peningkatan permintaan infrastruktur digital modern.

Red Hat Enterprise
Tahun ini Red Hat mengumumkan RHEL AI, platform model dasar memungkinkan pengguna untuk mengembangkan, menguji dan menjalankan model AI generatif (GenAI) dengan lebih lancar.

RHEL AI menghadirkan large language model (LLM) Granite yang berlisensi open source dari IBM Research.

Selain iyu tool penyelarasan model InstructLab berbasis metodologi Large-scale Alignment for chatBots (LAB) dan pendekatan yang community-driven untuk pengembangan model melalui proyek InstructLab.

Keseluruhan solusi dikemas sebagai RHEL image yang dioptimalkan dan bootable untuk digunakan di server individual di seluruh hybrid cloud.

Hal ini juga dimasukkan sebagai bagian dari Red Hat OpenShift AI yakni platform hybrid machine learning operations (MLOps).

Langkah ini untuk membangun, melatih, memantapkan dan menyajikan model pada skala besar di lingkungan cluster yang tidak berada di satu tempat alias tersebar.

RHEL AI akan membantu perusahaan telko dengan mempermudah pengembangan dan eksperimen dengan model AI, dan menyempurnakannya.

Jadi, perusahaan lebih mudah memulai perencanaan pemanfaatan potensi AI dalam perusahaan mereka, tanpa membutuhkan investasi besar pada depan untuk membangun skill atau membeli hardware.

Penawaran ini juga dapat membantu meningkatkan pengalaman pelanggan di perusahaan telko secara keseluruhan.

Selain itu memungkinkan lebih banyak orang yang ahli dalam bidang dan domain tertentu, tidak hanya ilmuwan data, untuk berkontribusi dalam pelatihan, penyempurnaan, dan penyelarasan LLM.

Ini berarti bahwa chatbot dan asisten code, layanan konsumen bisa dikembangkan dengan menggunakan input dari orang-orang yang melakukan tugas-tugas itu secara langsung, tanpa harus melalui alur kerja ilmuwan data.

Ini membantu perusahaan telko melihat AI dalam cara yang baru, sebagai sesuatu yang bisa diuji coba dengan cepat dan efisien, sekaligus menyediakan jalan untuk mengembangkan kemampuan AI dari pengetahuan yang unik dan keterampilan mereka sendiri.

Red Hat OpenShift AIDi Red Hat Summit, kami mengumumkan hadirnya kemampuan baru pada Red Hat OpenShift AI, platform open hybrid AI dan machine learning (ML).

Hal ini dibangun Red Hat OpenShift sebagai solusi yang memungkinkan perusahaan telko untuk menciptakan dan meluncurkan aplikasi berbasis AI pada skala besar di seluruh hybrid cloud.
Sejumlah pembaruan ini antara lain penyajian model di edge ke lokasi yang jauh menggunakan Red Hat OpenShift single-node yang bisa digunakan untuk kasus penggunaan yang spesifik (tech preview)

Kemudian, Meningkatkan penyajian model dengan menambahkan kemampuan untuk menggunakan beberapa server model untuk mendukung AI prediktif dan GenAI.

Lalu, Pengembangan model yang lebih baik dan pelatihan model yang tersebar. Selanjutnya, visualisasi monitoring model untuk melihat metrik performa dan operasional.

Semua peningkatan ini akan membuat inovasi terjadi dengan lebih cepat, produktivitas dan kapasitas yang makin besar untuk menambahkan AI ke dalam operasional sehari-hari di perusahaan telko.

Tetapi bagaimana caranya? Sebenarnya, menghadirkan pelatihan dan penyajian model di edge bisa memakan biaya karena kerumitan pengaturannya.

Namun memiliki platform umum seperti Red Hat OpenShift AI dari core hingga ke edge akan menjadikan pekerjaan ini menjadi lebih efisien. Langkah ini berkat peningkatan pada otomatisasi yang akan mengurangi pengeluaran operasional.

Dengan otomatisasi yang cerdas, perusahaan telko dapat menyederhanakan operasional jaringan mereka, meningkatkan langkah-langkah keamanan dan mengoptimalkan alokasi sumber daya.

Hal ini terutama sangat penting saat perusahaan telko menghadapi tekanan finansial yang disebabkan oleh modernisasi sistem lama yang sudah usang dan perluasan jaringan 5G.

Dengan AI di edge, perusahaan telko akan mendapatkan manfaat dari pemrosesan data yang lebih cepat dan pengambilan keputusan secara real time, yang akan meningkatkan performa aplikasi AI dan layanan secara signifikan.

Pendekatan ini cocok untuk pertambahan volume data yang dihasilkan oleh mesin dan meningkatkan konektivitas dan kemampuan analitik.

Bayangkan layanan concierge digital untuk pelanggan bisnis atau kasus penggunaan telko seperti monitoring trafik, manajemen beban, peningkatan infrastruktur, manajemen lifecycle jaringan atau manajemen daya.

Jika kita melihat RAN, perusahaan telko dapat memanfaatkan model AI di RAN untuk pengendalian frekuensi, sektor, sel, dan base station secara dinamis, lebih dari sekadar pengaturan waktu.

Mereka bisa menerapkan teknik AI untuk estimasi channel dan pekerjaan-pekerjaan yang terkait dengan SON.

Red Hat OpenShift AI juga menyediakan MLOps dengan mengintegrasikan kemampuan AI dan ML ke dalam model DevOps standar, yang mencakup keseluruhan lifecycle model AI.

Ini termasuk membangun, melatih, menyajikan, dan mengawasi model AI, dengan fokus pada penyempurnaan akurasi yang sangat penting untuk perusahaan telko.

Turkcell, penyedia layanan telekomunikasi dan teknologi konvergen mengembangkan arsitektur layanan AI dan application hub di Red Hat OpenShift.

Hal ini berhasil meningkatkan pengalaman pelanggan, mendorong efisiensi operasional, dan menarik pelanggan yang lebih beragam serta mampu menghadirkan inovasi bisnis ke pasar dengan lebih cepat.

Kami juga bekerja sama dengan mitra-mitra untuk mengintegrasikan teknologi AI terbaik mereka ke dalam Red Hat OpenShift AI. Lihatlah apa yang kami umumkan bersama dengan AMD, Intel, NVIDIA, dan Run.ai.

Integrasi kuat dengan AMD akan membantu perusahaan telko menjalankan platform mereka dengan Red Hat OpenShift, termasuk penggunaan GPU sets terbaru.

Dengan semakin terintegrasinya Red Hat OpenShift AI dengan hardware AI Intel, perusahaan telko akan mampu mewujudkan interoperabilitas dari pusat data ke cloud.

Hal ini hingga ke edge dengan portabilitas beban kerja AI yang lebih besar untuk membangun, menjalankan, dan menerapkan beban kerja AI di manapun dibutuhkan.

Red Hat juga mengumumkan kolaborasi dengan NVIDIA untuk pengguna menggabungkan model AI yang dilatih menggunakan Red Hat OpenShift AI dengan layanan mikro NVIDIA NIM.

Hal ini mengembangkan aplikasi berbasis GenAI pada satu platform MLOps yang akan membantu penyedia layanan menggunakan Red Hat OpenShift.

Selain itu sebagai platform pengembang untuk membangun co-pilot seperti asisten chat untuk layanan pelanggan, pengecekan kepatuhan, dan pendeteksian malware.

Red Hat bekerja sama dengan Run:ai untuk membawa pengalokasian sumber daya, pengelolaan infrastruktur AI, dan kemampuan orkestrasi GPU mereka ke Red Hat OpenShift AI.

Dengan melancarkan operasional AI dan mengoptimalkan infrastruktur dasarnya, kolaborasi ini akan membantu penyedia layanan mengoptimalkan sumber daya mereka.

Langkah ini untuk membangun sebuah infrastruktur cerdas yang bisa beradaptasi dan menyesuaikan dirinya sendiri berdasarkan beban kerja seperti 5G core dan aplikasi RAN.
Jaringan Masa Depan

Red Hat Lightspeed berekspansi ke berbagai platform untuk mendorong AI yang enterprise-ready untuk Red Hat OpenShift dan Red Hat Enterprise Linux. Hal ini untuk menyediakan kemampuan pemrosesan natural language yang cerdas.

Linux level enterprise dari Red Hat dan platform aplikasi cloud-native dapat digunakan oleh pengguna baru dengan lebih mudah dan bertindak sebagai pendorong peningkatan kekuatan bagi kalangan profesional berpengalaman.

Ini berarti perusahaan telko yang menggunakan Red Hat OpenShift untuk mengelola dan mengembangkan aplikasi atau RHEL sebagai sistem operasi mereka dan bisa menciptakan dan menyediakan software dengan lebih cepat berkat bantuan GenAI.

Tugas ini juga akan membuat operasional TI dan jaringan menjadi lebih efisien melalui bantuan digital, memberikan lebih banyak waktu untuk menciptakan inovasi-inovasi yang penting atau inovasi bisnis baru.

Perusahaan telko dapat memanfaatkan tools otomatisasi ini dalam penciptaan, penerapan, dan pemeliharaan jaringan telko di masa depan, mendorong tim mereka meraih tingkat pengembangan dan efisiensi yang belum pernah terjadi sebelumnya.

Tidak Hambat Inovasi
Red Hat mengumumkan kehadiran automates policy as code sebagai kemampuan baru yang akan ditanamkan pada versi Red Hat Ansible Automation Platform berikutnya.

Kemampuan ini akan membantu penerapan kebijakan dan kepatuhan di seluruh hybrid cloud estate yang sekarang memiliki lebih banyak aplikasi AI yang berbeda-beda.

Langkah lain dalam kematangan otomatisasi, policy as code akan memungkinkan perusahaan untuk mematuhi persyaratan internal atau eksternal yang berubah dan mempersiapkan infrastruktur yang lebih luas untuk mendukung peningkatan beban kerja AI.

Artinya, perusahaan telko akan mendapatkan manfaat dari integrasi yang lebih erat dari policy engine dan kemampuan dengan Ansible Automation Platform untuk meningkatkan keseluruhan postur keamanan infrastruktur.

Selanjutnya, kemampuan untuk mendefinisikan kebijakan dalam teks sederhana yang bisa diterjemahkan dan diterapkan dalam infrastruktur mereka.

Contohnya, “Cek kepatuhan semua switch saya di seluruh jaringan’. Hal ini lebih mudah untuk memenuhi persyaratan dan mematuhi peraturan.

Red Hat secara signifikan telah meningkatkan portofolio produknya untuk menyediakan kemampuan native AI bagi perusahaan telko.

Jadi, perusahaan ini dapat mengembangkan, melatih, dan menjalankan model, AI prediktif dan GenAI. Kami akan terus meningkatkan penawaran ini untuk memudahkan pelanggan memanfaatkan AI untuk infrastruktur dan layanan mereka.

Penulis adalah Senior Director, Global Telco Technical Development Red Hat, Azhar Sayeed.