Что-то под затянул я с новостями, исправляемся-с.
Arm представила CPU для AGI — 136 ядер и 3 нм процесс.
Ссылка. До сих пор Arm только лицензировала свою архитектуру — Apple, Nvidia, Amazon и Qualcomm проектировали чипы самостоятельно, платя Arm роялти с каждого проданного процессора. Теперь компания выходит на рынок физического кремния и напрямую конкурирует с клиентами. Аналитики Citi назвали это "самым значительным сдвигом в истории компании". Акции Arm выросли на 16% за день — максимальный скачок почти за год.
Arm позиционирует AGI CPU как процессор для агентных ИИ-систем: оркестрации задач между ускорителями, управления памятью, маршрутизации данных и координации агентов, которые запускают других агентов. По словам главы подразделения Cloud AI Мохамеда Авада, команда "безжалостно оптимизировала" архитектуру именно под эти сценарии. Одно выделенное ядро на поток, пропускная способность памяти 6 ГБ/с на ядро, задержка менее 100 наносекунд. На практике это означает плотную упаковку в стойку — и здесь цифры впечатляют.
Мюсли. Вот и компания Arm пытается вписаться в рынок ИИ с своими решениями, дабы подвинуть монополию Хуана (Нвидиа) и пристроиться к денежному потоку. Что интересно, похоже на Нвидиевский кусок (обучение и инференс) они не особо претендуют, а целятся именно на агентский (языковая модель + интсрументы) сегмент, где конкурентов не особо много. Штош, разумно.
Google представила новый ИИ-алгоритм сжатия памяти TurboQuant.
Ссылочка. TurboQuant предназначен для экстремального сжатия без потери качества, а применяется к ключевому узкому месту в системах искусственного интеллекта. Компания описывает эту технологию как новый способ уменьшения рабочей памяти ИИ без ущерба для производительности. Метод сжатия, использующий форму векторного квантования для устранения узких мест кэша в обработке ИИ, по сути, позволит ИИ запоминать больше информации, занимая при этом меньше места и сохраняя точность, как утверждают исследователи.
Векторное квантование — это мощный классический метод сжатия данных, который уменьшает размер многомерных векторов. Оптимизация решает две критически важные задачи ИИ: она улучшает векторный поиск — высокоскоростную технологию, лежащую в основе крупномасштабных систем ИИ и поисковых систем, — обеспечивая более быстрый поиск сходства; и помогает устранить узкие места в кэше «ключ-значение», уменьшая размер пар «ключ-значение», что обеспечивает более быстрый поиск сходства и снижает затраты памяти. Однако традиционное векторное квантование обычно вносит свои собственные «накладные расходы на память», поскольку большинство методов требуют вычисления и хранения констант для каждого небольшого блока данных.
Мюсли. В общем и целом, если кто-то работал с локальными языковыми моделями, то встречал ситуацию, когда одни и та же модель представлена с различным квантованием (4-bit, 8-bit) и, как результат, различным требуемым объемом как оперативной, так и энергонезависимой (HDD и SSD) памяти. Так вот, если кратко, чем меньше «битность» (4-bit меньше 8-bit), тем меньше памяти эта модель требует, но получается немного «глупее» (незначительно, пару процентов). Языковую модель ниже 4-bit обычно не советуют использовать, так как там «отупение» становится уже существенным. Так вот, гугл этот ваш как раз и озадачился проблемой разработки алгоритма, который позволит с сжимать модели (квантовать) на приемлемом уровне, при этом сохраняя их умность. Молодцы чо.
Закрытие Sora застало Disney врасплох: сделка на $1 млрд развалилась за 30 минут.
Сычуан. Решение о закрытии Sora стало неожиданностью даже для части сотрудников OpenAI — некоторые члены команды узнали о нем только утром во вторник. При этом буквально за день до объявления компания опубликовала блогпост о стандартах безопасности Sora. Внутри OpenAI, впрочем, вопрос обсуждался давно: приложение генерировало огромную нагрузку на GPU, а скачивания упали с 3,3 млн в ноябре до 1,1 млн в феврале. За все время Sora принесла лишь $2,1 млн от внутренних покупок.
Закрытие — часть стратегического разворота OpenAI перед потенциальным IPO. Глава продуктового подразделения Фиджи Симо на общем собрании заявила, что компания "не может упустить момент, распыляясь на побочные квесты", и должна сфокусироваться на кодинге и корпоративных клиентах — сегменте, где усиливается конкуренция с Anthropic. Освободившиеся мощности пойдут на модель нового поколения под кодовым названием Spud, предварительная тренировка которой уже завершена.
Мюсли. Уж очень долго OpenAi тянула с релизом Sora, за это время на рынке появилась куча конкурентов, которые оттянули на себя значительную часть пользователей. Если бы пользователей было много, как в случае chatGPT, и не происходил такой их катастрофический отток, то инвесторам всегда можно было показать, что эта огромная публика в будущем потенциально монетизируема. Но против цифр не попрешь.
В США робот-доставщик разбил остановку общественного транспорта.
Скыдыщ. В Чикаго робот-доставщик компании Serve Robotics протаранил стеклянную стену автобусной остановки. Запись последствий инцидента быстро разошлась в соцсетях, на видео видно, как виновник стоит у разбитой конструкции, а тротуар усеян мелкими осколками.
В Serve Robotics уточнили, что пострадавших нет и что компания сразу отправила сотрудников на место происшествия для уборки. Сейчас компания изучает причины случившегося и, по словам представителей, «очень серьёзно» относится к этому инциденту.
Мюсли. Не такого восстания машин я ожидал, правда))). А по факту, увеличение числа роботов-доставщиков будет приводить к увеличению такого вида инцидентов, надеюсь только, что каждый случай будет проанализирован и программно пофикшен.
Dell представила клавиатуры и мышки с суперконденсаторами вместо литий-ионных батарей.
Банкай. Представленные перезаряжаемая компактная клавиатура и мышь Dell Pro 7 сочетают в себе компактный дизайн и технологию суперконденсаторов. Быстрая пятисекундная зарядка обеспечивает работу в течение дня, а полная зарядка менее чем за пять минут питает клавиатуру до трёх месяцев, а мышь — до 1,5 месяцев.
Мюсли. Ну наконец-то суперконденсаторы (ака ионисторы) в обычной бытовой техника. Главное их преимущество как раз заключается в высокой (огромной) скорости зарядки, за счет высоких токов (а как иначе? по-другому физика не работает). В перспективе можно уменьшать размер батареи (так как зарядка происходит мгновенно) и, тем самым, уменьшать вес самого устройства. Штош, тож поглядим, куда нас все это приведет.
А на этом все, котаны и котэссы, новостной дайджитсу ждет Вас на следующей неделе. Покеда!!!