NVIDIA выпустила улучшенную версию чат-бота ChatRTX с целым набором новых возможностей

NVIDIA представила обновлённую версию своего чат-бота — ChatRTX. Новинка работает непосредственно на локальных устройствах пользователя, используя мощность графических процессоров GeForce RTX. ChatRTX значительно превосходит свою первоначальную версию — техническую демонстрацию Chat with RTX, представленную в феврале 2024 года. В ней, например, улучшена стабильность работы, а также расширен набор поддерживаемых моделей языковых LLM, включая такие новинки, как Mistral 7B INT4 и Llama 2 7B INT4 от NVIDIA, а также Gemma от Google.ChatRTX может похвастаться интеграцией с CLIP — технологией от OpenAI для распознавания изображений, что позволяет ИИ анализировать фото и видео без дополнительных метаданных. Кроме того, в приложение добавлена поддержка голосового ввода через Whisper, что делает общение с чат-ботом более естественным и удобным.