Пробуем все альтернативы ChatGPT

В этом посте я рассмотрю основные альтернативы ChatGPT и GPT-4. Раз Вы читаете этот пост, я предполагаю, что Вы уже знакомы с моделями OpenAI и хотите больше узнать об их альтернативах.

Базовые показатели

GPT-4

Цена за 1 миллион токенов:

Запрос: 30 долларов
Ответ: 60 долларов

Стоимость обработки 100 типичных запросов: 1,2 доллара за запрос + 1,2 доллара за ответ = 2,4 доллара

ChatGPT

Цена за 1 миллион токенов: 2 доллара.

Стоимость обработки 100 типичных запросов: ~0,08 доллара.

Пример:

Альтернативные модели

Claude (instant) от Anthropic

Доступ: Ограничен, необходимо отправить запрос. Можно использовать Slack-бота или Poe.

Коммерческое использование: Да

Цена за 1 миллион токенов:

Запрос: 1,63 доллара.
Ответ: 5,51 доллара.

Стоимость обработки 100 типичных запросов: ~0,065 доллара за запрос + ~0,1102 доллара за ответ = ~0,1752 доллара.

Как попробовать: Запросить доступ, затем можно использовать как Slack-бот или через API.

Мой субъективный отзыв: Я попробовал эту модель через Slack-бот, который, как я полагаю, использует именно Claude Instant. Результаты абсолютно на уровне ChatGPT, если не лучше, но в редких случаях ответы не такие последовательные. Имеет существенное преимущество: обычно выводит более короткие и точные результаты. Модель подвергается меньшей цензуре, чем ChatGPT и GPT-4. Не отвечает: «Как модель языка ИИ, я не могу этого сделать…». Тем не менее, Claude с удовольствием пошутит над мужчиной, но не пошутит над женщиной, как и ChatGPT.

Пример:

Dolly V2 от Databricks

Доступ: Доступен, с моделью весов.

Коммерческое использование: Да.

API: нет, собственный хостинг.

Цена за 1 миллион токенов: зависит от способа использования. Ответ на базе Huggingface стоит 0,06 доллара в час.

Стоимость обработки 100 типичных запросов: см. выше. Если Вы используете Huggingface и самую маленькую конечную точку GPU, Вы, вероятно, обработаете 100 электронных писем за один час, что будет стоить Вам 0,6 доллара. Это гораздо дороже, чем ChatGPT, но если Вы обрабатываете больше писем в час, то Dolly может быть выгоднее.

Как попробовать: collab.

Мой субъективный отзыв: Кажется, результаты, которые выдает Dolly, намного хуже, чем у ChatGPT или Claude. Пользователи даже жалуются на бессвязные ответы. Одним из основных преимуществ является то, что у вас есть веса, поэтому Вы можете точно настроить эту модель. Причем, она совсем небольшая: 12 миллиардов параметров, когда у GPT-3 - 175 миллиардов.

Пример:

Alpaca от Meta

Доступ: Ограничен, но можно скачать через торрент.

Коммерческое использование: Нет.

API: Нет.

Отдельный хостинг: Да.

Цена за 1 миллион токенов: зависит от способа использования.

Как попробовать: collab или Dalai.

Субъективный отзыв: Я пробовал только квантованный Alpaca.cpp 4B, самый маленький и быстрый из представленных. Ответы очень связные, но модель можно доработать. К сожалению, лицензия очень ограничивает способы использования, поэтому на практике Вы можете использовать ее только для исследований и личных вопросов. Модель очень быстро работает на моем Macbook M1. Я считаю, что ее ответ на вопрос о велосипеде - лучший из представленных. На спорные темы отвечает просто, будет шутить как о мужчинах, так и о женщинах, и тому подобное.

Пример:

StableLM tuned alpha 7B от Stability

Доступ: бесплатно.

Коммерческое использование: Да.

API: Нет.

Отдельный хостинг: Да.

Цена за 1 миллион токенов: зависит от способа использования.

Как попробовать: collab.

OpenAssistant Pythia 12B от LAION AI

Доступ: бесплатно.

Коммерческое использование: Да.

API: Нет.

Отдельный хостинг: Да.

Цена за 1 миллион токенов: зависит от способа использования.

Как попробовать: официальный сайт или Huggingface.

Субъективный отзыв: Очень ясные ответы. Не сильно цензурирован. Предоставляется официальный графический интерфейс, который значительно упрощает процесс использования. В целом, может быть полезным помощником наравне с ChatGPT и GPT-4.

Пример: