Red Hat AI memimpin upaya untuk teknologi yang transparan dan berkelanjutan di tengah pergeseran AI global. Ketegangan geopolitik mengubah cara perusahaan membangun dan menggunakan kecerdasan buatan. Model bahasa besar yang tertutup menghadapi pengawasan ketat terkait privasi data dan biaya tinggi. Red Hat mendukung alternatif sumber terbuka seperti model bahasa kecil (SLM) untuk kemenangan praktis. Dalam obrolan baru-baru ini, Julio Guijarro, CTO Red Hat untuk EMEA, berbagi bagaimana Red Hat AI membuka kekuatan generatif secara bertanggung jawab. Perusahaan mendapatkan nilai tanpa risiko kotak hitam. Pendekatan ini sesuai dengan etos Red Hat yang berbasis komunitas, menjadikan AI dapat diakses dan tepercaya bagi semua orang.
Red Hat AI Juara Model Kecil untuk Enterprise Edge
Red Hat AI menghadapi hal-hal yang belum diketahui dalam AI secara langsung. Banyak yang memandang AI sebagai kotak hitam karena matematika yang rumit dan pengembangan yang tertutup. Kesenjangan pendidikan masih ada, terutama untuk bahasa yang kurang terlayani seperti bahasa Arab dan Portugis. Kekhawatiran kedaulatan data membayangi—perusahaan melindungi informasi sensitif dari cloud publik dengan kebijakan yang longgar.
Guijarro mendorong SLM sebagai solusinya. Model-model ringkas ini berjalan secara lokal atau dalam pengaturan hibrida pada perangkat keras sehari-hari. Mereka memanfaatkan data spesifik bisnis untuk hasil yang segar dan relevan. Tidak ada lagi keluaran usang dari cloud yang jauh.
Red Hat AI mengoptimalkan model terbuka untuk memangkas biaya. LLM membebankan biaya per kueri—pertanyaan sederhana membengkak menjadi obrolan yang mahal. SLM on-premise membatasi pengeluaran pada tingkat infrastruktur. Latensi juga menurun, kunci untuk layanan pelanggan. Kepercayaan dibangun melalui keterbukaan: siapa pun dapat menyetel, mereplikasi, atau menerapkan model.
Baca Juga: Ulasan BigSpy: Panduan Utama Anda untuk Menguasai Kampanye Iklan TikTok
Langkah-langkah terkini meningkatkan perangkat AI Red Hat:
- Akuisisi Sihir Saraf: Mempercepat inferensi, menskalakan AI pada perangkat standar, terhubung ke vLLM untuk penyajian yang efisien.
- Rilis InstructLab: Dengan IBM Research, memberdayakan non-ahli untuk membangun AI menggunakan pengetahuan bisnis.
- Dukungan vLLM:Menstandarkan interaksi lintas edge, lokal, atau cloud untuk penggunaan yang lancar.
- Optimasi Perangkat Keras: Menghapus data yang tidak diperlukan dari model, berjalan pada pengaturan non-GPU agar ada di mana-mana.
Red Hat AI mengincar masa depan yang demokratis. Tidak perlu pembelian GPU besar-besaran. Fokus pada penyesuaian kasus penggunaan membuat AI layak di seluruh dunia. Seperti yang dikatakan CEO Matt Hicks, "Masa depan AI terbuka." Perusahaan-perusahaan menggunakan Red Hat AI untuk mengurangi risiko, meningkatkan efisiensi, dan menyelaraskan dengan etika.
Berita Lainnya Untuk Dibaca: Pembaruan Google Penelusuran Hadirkan Bagian Prestasi Menarik
