Русский ИТ бизнес
11 постов
11 постов
Пишу в запрещенной сети LinkedIn на русском. 99.999% комментариев на русском. Но иногда пишут так... Я вот сижу и думаю, чего человек себя мучает и ведь знает, что нихера не понятно, что он хотел сказать.
Но брызги слюны на мониторе с той стороны намекают - ничего хорошего :) Странные они ребята, слава богу, что большая часть вполне себе конструктивно меня помоит на русском.
Русский ИТ бизнес
GPT 5.2 вышел и вот сравнение с Gemini 3.0 pro. Только вчера мучал Gemini дабы отбрехаться от некорректно начисленного налога как физику :) … загрузил в него массу сверок из ФНС и попросил найти ошибки. Справился.
А GPT 5.2 еще лучше. Хотя казалось бы, куда уж более то.
Русский ИТ бизнес
Чувак год собирал свой сервер для ИИ и в итоге довел его до монстра из восьми RTX 3090 с общим объемом видеопамяти 192 ГБ, 64 ядерного EPYC Milan и 250 ГБ обычной памяти, потратив примерно 8 тысяч долларов и покупая почти все железо с рук.
Питается это счастье от двух блоков питания на 1500 и 1000 ватт, сидит на выделенной 20 амперной линии, греется под нагрузкой до примерно 70 градусов и при этом живет довольно спокойно, хоть выглядит как учебник по кабельному ужасу :) с одной видеокартой, торчащей наружу из за нехватки места.
Автор еще заморочился с райзерами PCIe 4.0 длиной 200-250 мм, отказался от красивой укладки ради нормальной пропускной способности и стабильно гоняет GLM 4.5 Air в квантизации Q6_K через llama.cpp на 128k контексте, получая около 49 токенов в секунду, что для такого зоопарка из б у железа выглядит довольно бодро.
Сейчас система используется в основном для инференса больших локальных моделей вроде GLM 4.5 Air и планируемых GLM 4.6 и Minimax M2 в 4 битных квантах с тензорным параллелизмом на всех восьми картах, а дальше владелец хочет заняться агентным кодингом через roocode и поиграться с vLLM и AWQ.
Электричество он частично отбивает солнечными панелями, поэтому при умеренной нагрузке добавка к счету за свет оценивается им на уровне примерно 40 долларов в месяц, что по его меркам терпимо ради домашнего комбайна для экспериментов с ИИ и запасом на будущее, особенно на фоне растущих цен на железо и возможного ухудшения условий у облачных сервисов.
Русский ИТ бизнес
Можно управлять на ХХ готовы ли вы получать отклики от 45+. Насколько понял, по умолчанию НЕ получать? :) Прикольно... Я такого еще не видел. Эйджизм, хуле. Будучи злобным капиталистом- узурпатором я сам до такого не додумался :)
p.s. а если серьезно - это разве не дискриминация по возрасту? Впрочем они монополист, могут себе позволить.
Русский ИТ бизнес
Большая коллекция промптов для генерации картинок. Вот здесь. Не знаю для чего, но вдруг вам будет полезно. Скорее нужно иллюстраторам, дизайнерам и т.п.
Русский ИТ бизнес
Этакий визуальный RAG. Если скрестить с очками, вообще будет бомба. Perplexity умеет так, кто знает? Вообще космос, вот мне хочется долить масло в коробку, я хз где она - а тут бац, такой визуальный помощник. Применимо где хочешь, в любой сфере. Отсюда.
Представляете, какой объем возвратов? Товар ездит туда-сюда, без оплаты, теряя внешний вид и т.п. И кто за это платит? Селлер :) Каюсь, я сам так делаю - выбираю "постоплата" и потом... просто не прихожу (передумал), либо отказываюсь. Редко, факт, но бывает.
Русский ИТ бизнес
"Норникель" представил свою большую языковую модель для металлургии - MetalGPT‑1. Это первая версия из собственной линейки open‑source моделей компании, предназначенных для работы в металлургической и горнодобывающей сферах.
В MetalGPT‑1 заложено 32 миллиарда параметров, и она обучена на 10 гигабайтах профильных текстов по металлургии и горнодобыче - примерно половина объёма англоязычной Википедии. По словам Данила Ивашечкина, руководителя направления по развитию ИИ "Норникеля", теперь каждая компания может подстроить модель под свои нужды.
Модель и бенчмарк уже выложены на Hugging Face, вот здесь:
https://huggingface.co/nn-tech/MetalGPT-1
Интересно, что в описании указано - основой MetalGPT‑1 стала китайская модель Qwen/Qwen3‑32B. А почему бы и нет? Дообучили, молодцы!
Русский ИТ бизнес