Логово Комара: post #545 — TG.ME

Про многопоточность в машинном обучении

Представим ситуацию: данных дали мало, все разные, да и еще нужно найти самые устойчивые признаки, что делать?

Multi-Task Learning, MTL — это подход, при котором модель обучается на нескольких связанных задачах одновременно, что улучшает обобщающую способность за счет совместного использования представлений данных.

Основные методы MTL в глубоком обучении:

🔸Жёсткое разделение параметров (Hard Parameter Sharing)

Общие скрытые слои для всех задач, но индивидуальные выходные слои для каждой.

🔸Мягкое разделение параметров (Soft Parameter Sharing)

У каждой задачи своя модель, но параметры регуляризуются для сходства (например, через L2-норму).

Не забываем про взвешивание потерь — автоматическую настройку важности каждой задачи на основе её неопределённости.

Ставим реакции и выложим код с реализацией 🔥
🔥13😍5👍2
August 7, 2025 854 4