Red Hat AI лидирует в области прозрачных и устойчивых технологий на фоне глобальных изменений в сфере искусственного интеллекта. Геополитическая напряженность меняет подходы компаний к созданию и использованию искусственного интеллекта. Закрытые большие языковые модели подвергаются критике из-за конфиденциальности данных и высокой стоимости. Red Hat продвигает альтернативы с открытым исходным кодом, такие как малые языковые модели (SLM), ради достижения практических результатов. В недавнем чате Хулио Гихарро, технический директор Red Hat в регионе EMEA, рассказал, как Red Hat AI ответственно раскрывает свой потенциал. Предприятия получают ценность без рисков, связанных с «черным ящиком». Этот подход соответствует принципам Red Hat, ориентированным на сообщество, делая ИИ доступным и надежным для всех.
Red Hat AI Champions Small Models для Enterprise Edge
Red Hat AI напрямую борется с неизвестными аспектами ИИ. Многие считают ИИ «черным ящиком» из-за сложной математики и закрытости разработки. Сохраняются пробелы в образовании, особенно в отношении малоизученных языков, таких как арабский и португальский. Возникают опасения по поводу суверенитета данных: компании защищают конфиденциальную информацию из публичных облаков, используя нестрогие политики.
Гихарро предлагает SLM как решение. Эти компактные модели работают локально или в гибридных конфигурациях на обычном оборудовании. Они используют бизнес-данные для получения актуальных и релевантных результатов. Больше никаких устаревших данных из удалённых облаков.
Red Hat AI оптимизирует открытые модели для сокращения расходов. Магистры права (LLM) взимают плату за каждый запрос — простые запросы превращаются в дорогостоящие чаты. Локальные SLM ограничивают расходы на уровне инфраструктуры. Задержки также снижаются, что является ключевым фактором для обслуживания клиентов. Доверие укрепляется благодаря открытости: любой может настраивать, копировать или развертывать модели.
Читайте также: Обзор BigSpy: ваше полное руководство по управлению рекламными кампаниями в TikTok
Недавние шаги расширяют инструментарий Red Hat AI:
- Приобретение нейронной магии: Ускоряет вывод, масштабирует ИИ на стандартном оборудовании, подключается к vLLM для эффективного обслуживания.
- Выпуск InstructLab: IBM Research позволяет неспециалистам создавать искусственный интеллект, используя бизнес-ноу-хау.
- Поддержка vLLM: стандартизирует взаимодействие на периферии, локально или в облаке для бесперебойного использования.
- Аппаратная оптимизация: удаляет ненужные данные из моделей, работает на установках без графического процессора для обеспечения повсеместности.
Red Hat AI стремится к демократизированному будущему. Не требуется крупных закупок графических процессоров. Сосредоточение на оптимизации сценариев использования делает ИИ жизнеспособным во всем мире. Как говорит генеральный директор Мэтт Хикс: «Будущее ИИ открыто». Предприятия используют Red Hat AI для снижения рисков, повышения эффективности и соблюдения этических норм.
Больше новостей для чтения: Обновления поиска Google приносят захватывающие достижения
Последнее обновление Google ломает работу сторонних инструментов отслеживания
