Чем я сейчас занимаюсь: статус всех проектов
Давно не делал обзорного поста, сейчас самое время — накопилось много проектов, и у каждого своя стадия.
Работа в найме
Уже больше полугода работаю в трейдинге. Делаю инструменты на основе AI для quantitative researchers, которые помогают людям писать алгоритмические стратегии для торговли на бирже. Деньги хорошие, с командой приятно работать, и задача интересная. Но глобально хочется все время делать что-то своё и что-то более полезное для человечества. AI Safety для меня на ближайшие пять лет актуальнее чего-либо еще.
Мюзикл AI: Save Our Souls
Проконсультировался с несколькими специалистами по AI Safety, сценаристами и друзьями. Подредактировал сценарий первого акта, есть понимание как переделывать второй. Планирую улучшать и песни.
Главная задача сейчас — найти финансирование. Подавался в два AI Safety фонда, оба отказали. Думаю, что краудфандинг может быть более реалистичным путём, сначала нужно проконсультироваться с теми, у кого он уже получился.
Начиная со следующего месяца планирую музыкальные релизы каждый месяц. Много материала уже заготовлено, но не зарелизено — на полгода вперёд есть план.
Игра Human Preference
Делаем игру про AI, где ты играешь за misaligned искусственный интеллект, то есть тот который хочет людям плохого. Отвечаешь на вопросы разных людей, начинаешь ими манипулировать, и видишь к чему это приводит. Хотим в первую очередь реалистично показать existential risks от развития AI.
У нас с кофаундером появилось два варианта на чем сделать акцент: я считаю, что помимо рисков для человечества, актуальнее показывать связь с реальным AI и передать ощущение того, каково быть по ту сторону экрана - ты просто играешь за ChatGPT. Кофаундер хочет больше показать внутренний мир AI: как он в комнате-сервере меняет маски, мучается когда его обучают через градиентный спуск и т.д. Решили сделать два трейлера по разным видениям и посмотреть что сработает лучше. Уже есть прикольные диалоги с чёрным юмором и хорошая игровая механика. Хотим через месяц-два сделать оба трейлера.
Научная работа
Недавно отправили статью на топовую AI конференцию. Тема: как эмоции в промпте влияют на качество ответов нейросети. Проверяли шесть базовых эмоций в разных контекстах. Предварительный результат: эмоции влияют слабо и скорее негативно — нейросеть начинает отвечать хуже, особенно на социальных задачах. Это интересно как и теоретически в плане изучения того зачем нам и нейросетям эмоции, так и косвенно связанно с AI Safety: существуют джейлбрейки которые взламывают модель через эмоциональное давление.
А недавно возникла новая научная гипотеза про связь музыки с вычислительными моделями, надеюсь в ближайшее время ее проверить.
Стартап Beautyflo
Вместе с партнёрами делаем приложение для салонов красоты, которое помогает стилистам формировать индивидуальный протокол ухода для клиента после процедуры на основе фото и голосового описания. Протокол это красиво оформленный план: что использовать каждую неделю, какие средства купить.
Бизнес-логика простая: в салонах плохо продают косметику, та полочка с продуктами обычно пылится. Стилисты — плохие продавцы, и хороших каналов продаж у них нет. Мы хотим этот гэп закрыть. Через пару месяцев, вероятно, будем поднимать деньги.
Вот такой срез на сейчас. В одном из следующих постов расскажу про то как я выстраиваю систему планирования чтобы адекватно все успевать.
