Первый день спринта OpenAI в целом оцениваю положительно.
Первый день спринта OpenAI в целом оцениваю положительно.
Переход с ~30 до ~50 токенов в секунду уже вполне ощутимое улучшение. По сути, это примерно уровень Fable по скорости.
Но мне кажется, что сейчас планка уже выше. Хотелось бы видеть хотя бы ~70 токенов в секунду, то есть примерно уровень Opus, а в идеале уже 100+.
На мой взгляд, для передовых моделей ИИ скорость в 100 токенов в секунду уже должна быть нормой.