Штучний інтелект Red Hat очолює боротьбу за прозорі та стійкі технології на тлі глобальних змін у сфері штучного інтелекту. Геополітична напруженість змінює те, як підприємства створюють та використовують штучний інтелект. Закриті великі мовні моделі стикаються з ретельною увагою щодо конфіденційності даних та високої вартості. Red Hat відстоює альтернативи з відкритим кодом, такі як малі мовні моделі (SLM), для практичних переваг. У нещодавній розмові Хуліо Гіхарро, технічний директор Red Hat EMEA, розповідає, як Red Hat AI відповідально розкриває генеративну потужність. Підприємства отримують цінність без ризиків, пов'язаних з "чорною скринькою". Цей підхід відповідає духу спільноти Red Hat, роблячи ШІ доступним та надійним для всіх.
Red Hat AI підтримує малі моделі для Enterprise Edge
Штучний інтелект Red Hat безпосередньо стикається з невідомими питаннями ШІ. Багато хто розглядає ШІ як чорну скриньку через складну математику та закриту розробку. Зберігаються прогалини в освіті, особливо для малоосвітніх мов, таких як арабська та португальська. Вимальовуються побоювання щодо суверенітету даних — компанії захищають конфіденційну інформацію від публічних хмар за допомогою недбалих правил.
Гіхарро пропонує SLM як рішення. Ці компактні моделі працюють локально або в гібридних конфігураціях на звичайному обладнанні. Вони використовують бізнес-дані для отримання актуальних та релевантних результатів. Більше жодних застарілих виводів з віддалених хмар.
Red Hat AI оптимізує відкриті моделі для скорочення витрат. LLM-мастеринги збільшують плату за запит — прості запити перетворюються на дорогі чати. Локальні SLM-мастеринги обмежують витрати на рівнях інфраструктури. Затримка також знижується, що є ключовим фактором для обслуговування клієнтів. Довіра будується завдяки відкритості: кожен налаштовує, копіює або розгортає моделі.
Також читайте: Огляд BigSpy: Ваш найкращий посібник з освоєння рекламних кампаній TikTok
Нещодавні кроки розширюють інструментарій Red Hat AI:
- Нейронне магічне придбанняПришвидшує логічний висновок, масштабує ШІ на стандартному спорядженні, підключається до vLLM для ефективного обслуговування.
- Реліз InstructLabЗавдяки IBM Research, неексперти можуть створювати штучний інтелект, використовуючи бізнес-ноу-хау.
- Підтримка vLLMСтандартизує взаємодію на периферії, локально або в хмарі для безперебійного використання.
- Оптимізація обладнанняВидаляє непотрібні дані з моделей, працює на системах без графічного процесора для повсюдного використання.
Штучний інтелект Red Hat прагне демократизованого майбутнього. Не потрібно купувати величезні графічні процесори. Зосередження на налаштуваннях сценаріїв використання робить ШІ життєздатним у всьому світі. Як каже генеральний директор Метт Хікс: «Майбутнє ШІ відкрите». Підприємства використовують ШІ Red Hat, щоб зменшити ризики, підвищити ефективність та дотримуватися етичних норм.
Більше новин для читання: Оновлення пошуку Google приносять захопливі досягнення. Розділ
Останнє оновлення Google ламає сторонні інструменти відстеження
