Technology for Umma Cover Image

Technology for Umma

About us
Новости мировых технологий и бизнеса
2 months Translate - Youtube
Translation is not possible.

Крайне рекомендую к просмотру оба выпуска.

IT-специалист Муаммар Аль-Шедиват в подкасте «После намаза» рассказывает, как воспитание русско-арабской семьи и мусульманская Москва 2010-х привели его в престижную профессию и помогли стать успешным и очень востребованным. Легко ли работать в Yandex, Facebook и Twitter и жить в Лондоне? Как в «цифровых» гигантах чувствуют себя мусульмане? Палестинский вопрос в Британии, и почему он решил переехать в Казахстан?

https://www.youtube.com/watch?v=LJmvLCbUWrs

https://www.youtube.com/watch?v=It0rYL7_YpI

1 view
Send as a message
Share on my page
Share in the group
Translation is not possible.

Open AI выпустили новую модель ChatGPT 4o (“o” означает “omni” - мультимодальная).

Что нового в ChatGPT 4o:

- Лучше стал понимать иностранные языки, переводить стал лучше, поддерживает 50 языков

- Быстрее ChatGPT-4, лучше в программировании и на 50% дешевле в API.

- Будет программа для Mac, ее показали, но непонятно, когда выпустят в массы

- Уже понимает видео, что на нем и тд.

- Озвучивает ответы

- В приложении голосовой ассистент очень похож на человека: отвечает без задержки, понимает эмоции, сам меняет интонации по ситуации и шутит. Также ассистент может переводить речь с другого языка в рилтайме

- И главное! ChatGPT 4о и GPT Store стали бесплатными

Однако, по наблюдениям, доступ быстрее получают платные подписчики ChatGPT. Для бесплатных пользователей есть ограничение по запросам в GPT-4o, в зависимости от использования и спроса, когда лимит будет достигнут, ChatGPT 4o переключится на модель 3.5.

GPT-4o («o» от «omni») — это шаг к гораздо более естественному взаимодействию человека с компьютером: он принимает в качестве входных данных любую комбинацию текста, аудио, изображения и видео и генерирует любую комбинацию текста, аудио и изображения. выходы. Он может реагировать на аудиовходы всего за 232 миллисекунды, в среднем за 320 миллисекунд, что аналогично времени реакции человека.(Открывается в новом окне)в разговоре. Он соответствует производительности GPT-4 Turbo для текста на английском языке и кода, со значительным улучшением для текста на неанглийских языках, а также намного быстрее и на 50 % дешевле в API. GPT-4o особенно лучше воспринимает изображение и звук по сравнению с существующими моделями.

#gpt #ai #openai

4 views
Send as a message
Share on my page
Share in the group
Translation is not possible.

Boston Dynamics представила более сильного и умелого электрического «Атласа»

В новой версии нет протекающей гидравлики, все работает на электрических силовых приводах. От этого сила и ловкость нового «Атласа» лишь возросли, утверждают разработчики.

Вдобавок к инновационному аппаратному оборудованию «Атлас» получит новые программные инструменты на основе ИИ и машинного обучения. К примеру, машинное зрение, которое позволит ему эффективно работать в реальной обстановке фабричных цехов и жилых помещений. Кроме того, помимо способности двигаться как человек, новый робот обучится другим, не свойственным человеку моторным навыкам. Нечто подобное Boston Dynamics проделала с похожим на сатира роботом «Диджит», верхняя часть которого как у людей, для удобства манипулирования предметами, а ноги как у козла.

Область применения нового «Атласа» примерно такая же, как и у андроидов других компаний: скучная, грязная, тяжелая и монотонная работа.

Недавно Nvidia анонсировала проект GR00T — мультимодальный искусственный интеллект, предназначенный для гуманоидных роботов. Роботы на базе GR00T смогут понимать естественный язык и имитировать движения, наблюдая за действиями человека, быстро обучаться координации, ловкости и другим навыкам, чтобы взаимодействовать с реальным миром и легко адаптироваться.

13 views
Send as a message
Share on my page
Share in the group
Translation is not possible.

Google представила помощника для программистов Gemini Code Assist

Новинка будет распространяться в виде плагина для популярных редакторов, таких как VS Code и JetBrains. Code Assist обещает потягаться с Copilot Enterprise от GitHub из-за ряда преимуществ. Например, инструмент поддерживает Gemini 1.5 Pro, которая имеет контекстное окно с миллионом токенов. Это позволяет анализировать и изменять огромные фрагменты кода, что значительно упрощает жизнь разработчиков и делает предложение Google более привлекательным. Можно даже проверить и исправить весь код сразу. На сегодняшний день ни одна другая компания не предлагает модель ИИ с таким большим контекстным окном.

#google #gemini #gpt #ai

image
Send as a message
Share on my page
Share in the group
Translation is not possible.

Илон Маск рассчитывает привлечь на развитие своего ИИ-стартапа xAI до $3 млрд.

Когда то он отказался от участия в проекте OpenAI.

Компания xAI была основана Илоном Маском (Elon Musk) только в июле прошлого года, а в январе текущего миллиардер заявил, что не ищет инвесторов для неё и не ведёт ни с кем переговоров на эту тему. Издание The Wall Street Journal утверждает, что теперь Маск собирается привлечь до $3 млрд средств близких к нему инвесторов в капитал xAI, оценивая тем самым бизнес компании в $18 млрд.

Среди тех, кто может вложить крупную сумму в капитал xAI, источник упоминает венчурный фонд Gigafund, основанный Люком Носеком (Luke Nosek), с которым Маск знаком ещё со времён PayPal, и который сейчас занимает пост в совете директоров аэрокосмической компании SpaceX, также принадлежащей Илону Маску. В совете директоров Tesla Носек также состоял до 2020 года. Второй вероятный инвестор в капитал xAI — Стив Джурветсон (Steve Jurvetson), который также давно знаком с Маском, а сейчас занимает пост в совете директоров SpaceX. Носек и Маск в своё время пытались купить стартап DeepMind, который в итоге достался Google, так что отрицать у Носека наличие интереса к теме искусственного интеллекта сложно.

По данным The Wall Street Journal, переговоры с потенциальными инвесторами xAI пока только ведутся, их исход нельзя предугадать. Очевидно, что стартапы в данной сфере привлекают внимание инвесторов. Тот же OpenAI, в становлении которого Илон Маск на определённом этапе тоже принимал участие, привлёк $13 млрд от Microsoft, а конкурирующий Anthropic привлёк более $6 млрд. На этом фоне упоминаемые $3 млрд для нужд xAI не кажутся такой уж большой суммой.

Отметим, что Илон Маск пытается интегрировать разработанный xAI чат-бот Grok в сервисы принадлежащей ему социальной сети X, и ранее даже обещал передать инвесторам данной компании до 25 % акций xAI. В декабре прошлого года стало известно, что стартап пытался привлечь $1 млрд и даже заручился поддержкой четырёх инвесторов, готовых в совокупности вложить в компанию $135 млн, но Илон Маск впоследствии опроверг эти слухи. Сейчас, по данным источников, некоторые участники переговоров настаивают на привлечении к финансированию деятельности xAI нескольких специализированных инвестиционных фондов, пытаясь снизить потенциальную зависимость стартапа от небольшой группы венчурных компаний.

В прошлом году, когда компания xAI только анонсировала бота Grok, она сделала алгоритм доступным для подписчиков X с тарифом Premium+, которые платят $16 в месяц или $168 в год. Теперь же доступ к Grok постепенно получают подписчики Premium, которые платят $8 в месяц. Пользователи могут выбрать для взаимодействия с ИИ-ботом обычный или шутливый режим. Одно из любопытных нововведений чат-бота xAI заключается в способности обобщать новости, что может оказаться полезным для некоторых пользователей.

Вероятно, Маск хочет, чтобы больше людей использовали Grok для конкуренции с аналогичными продуктами других компаний, такими как ChatGPT от OpenAI, Gemini от Google и Claude от Anthropic. В последние несколько месяцев миллиардер открыто критиковал OpenAI, а в марте даже подал в суд на компанию, мотивируя это тем, что OpenAI «предала» свои некоммерческие цели. В ответ на это OpenAI подала в суд ходатайство с просьбой отклонить иск Маска, а также опубликовала переписку между компанией и владельцем X.

#xai #openai

image
Send as a message
Share on my page
Share in the group
Translation is not possible.

NVIDIA представила самый мощный чип в мире — Blackwell B200, который откроет путь к гигантским нейросетям

Компания Nvidia в рамках конференции GTC 2024 представила ИИ-ускорители следующего поколения на графических процессорах с архитектурой Blackwell. По словам производителя, грядущие ИИ-ускорители позволят создавать ещё более крупные нейросети, в том числе работать с большими языковыми моделями (LLM) с триллионами параметров, и при этом будут до 25 раз энергоэффективнее и экономичнее в сравнении с Hopper.

Архитектура GPU Blackwell получила название в честь американского математика Дэвида Блэквелла (David Harold Blackwell) и включает в себя целый ряд инновационных технологий для ускорения вычислений, которые помогут совершить прорыв в обработке данных, инженерном моделировании, автоматизации проектирования электроники, компьютерном проектировании лекарств, квантовых вычислениях и генеративном ИИ. Причём на последнем в Nvidia делают особый акцент: «Генеративный ИИ — это определяющая технология нашего времени. Графические процессоры Blackwell — это двигатель для новой промышленной революции», — подчеркнул глава Nvidia Дженсен Хуанг (Jensen Huang) в рамках презентации.

Графический процессор Nvidia B200 производитель без лишней скромности называет самым мощным чипом в мире. В вычислениях FP4 и FP8 новый GPU обеспечивает производительность до 20 и 10 Пфлопс соответственно. Новый GPU состоит из двух кристаллов, которые произведены по специальной версии 4-нм техпроцесса TSMC 4NP и объединены 2,5D-упаковкой CoWoS-L. Это первый GPU компании Nvidia с чиплетной компоновкой. Чипы соединены шиной NV-HBI с пропускной способностью 10 Тбайт/с и работают как единый GPU. Всего новинка насчитывает 208 млрд транзисторов.

По сторонам от кристаллов GPU расположились восемь стеков памяти HBM3E общим объёмом 192 Гбайт. Её пропускная способность достигает 8 Тбайт/с. А для объединения нескольких ускорителей Blackwell в одной системе новый GPU получил поддержку интерфейса NVLink пятого поколения, которая обеспечивает пропускную способность до 1,8 Тбайт/с в обоих направлениях. С помощью данного интерфейса (коммутатор NVSwitch 7.2T) в одну связку можно объединить до 576 GPU.

Одними из главных источников более высокой производительности B200 стали новые тензорные ядра и второе поколение механизма Transformer Engine. Последний научился более тонко подбирать необходимую точность вычислений для тех или иных задач, что влияет и на скорость обучения и работы нейросетей, и на максимальный объём поддерживаемых LLM. Теперь Nvidia предлагает тренировку ИИ в формате FP8, а для запуска обученных нейросетей хватит и FP4. Но отметим, что Blackwell поддерживает работу с самыми разными форматами, включая FP4, FP6, FP8, INT8, BF16, FP16, TF32 и FP64. И во всех случаях кроме последнего есть поддержка разреженных вычислений.

Флагманским ускорителем на новой архитектуре станет Nvidia Grace Blackwell Superchip, в котором сочетается пара графических процессоров B200 и центральный Arm-процессор Nvidia Grace с 72 ядрами Neoverse V2. Данный ускоритель шириной в половину серверной стойки обладает TDP до 2,7 кВт. Производительность в операциях FP4 достигает 40 Пфлопс, тогда как в операциях FP8/FP6/INT8 новый GB200 способен обеспечить 10 Пфлопс.

Как отмечает сама Nvidia, новинка обеспечивает 30-кратный прирост производительности по сравнению с Nvidia H100 для рабочих нагрузок, связанных с большими языковыми моделями, а она до 25 раз более экономична и энергетически эффективна.

Ещё Nvidia представила систему GB200 NVL72 — фактически это серверная стойка, которая объединяет в себе 36 Grace Blackwell Superchip и пару коммутаторов NVSwitch 7.2T. Таким образом данная система включает в себя 72 графических процессора B200 Blackwell и 36 центральных процессоров Grace, соединенных NVLink пятого поколения. На систему приходится 13,5 Тбайт памяти HBM3E с общей пропускной способностью до 576 Тбайт/с, а общий объём оперативной памяти достигает 30 Тбайт.

Платформа GB200 NVL72 работает как единый GPU с ИИ-производительностью 1,4 эксафлопс (FP4) и 720 Пфлопс (FP8). Эта система станет строительным блоком для новейшего суперкомпьютера Nvidia DGX SuperPOD.

Наконец, Nvidia представила серверные системы HGX B100, HGX B200 и DGX B200. Все они предлагают по восемь ускорителей Blackwell, связанных между собой NVLink 5. Системы HGX B100 и HGX B200 не имеют собственного CPU, а между собой различаются только энергопотреблением и как следствие мощностью. HGX B100 ограничен TDP в 700 Вт и обеспечивает производительность до 112 и 56 Пфлопс в операциях FP4 и FP8/FP6/INT8 соответственно. В свою очередь, HGX B200 имеет TDP в 1000 Вт и предлагает до 144 и 72 Пфлопс в операциях FP4 и FP8/FP6/INT8 соответственно.

Наконец, DGX B200 копирует HGX B200 в плане производительности, но является полностью готовой системой с парой центральных процессоров Intel Xeon Emerald Rapids. По словам Nvidia, DGX B200 до 15 раз быстрее в задачах запуска уже обученных «триллионных» моделей по сравнению с предшественником.

Для создания наиболее масштабных ИИ-систем, включающих от 10 тыс. до 100 тыс. ускорителей GB200 в рамках одного дата-центра, компания Nvidia предлагает объединять их в кластеры с помощью сетевых интерфейсов Nvidia Quantum-X800 InfiniBand и Spectrum-X800 Ethernet. Они также были анонсированы сегодня и обеспечат передовые сетевые возможности со скоростью до 800 Гбит/с.

Свои системы на базе Nvidia B200 в скором времени представят многие производители, включая Aivres, ASRock Rack, ASUS, Eviden, Foxconn, GIGABYTE, Inventec, Pegatron, QCT, Wistron, Wiwynn и ZT Systems. Также Nvidia GB200 в составе платформы Nvidia DGX Cloud, а позже в этом году решения на этом суперчипе станут доступны у крупнейших облачных провайдеров, включая AWS, Google Cloud и Oracle Cloud.

#nvidia #gpu

image
image
image
image
image
image
Send as a message
Share on my page
Share in the group