Что такое техника splitting lock'ов и как она помогает снизить конкуренцию за блокировки в многопоточных приложениях?

Обзор

Разделение блокировок — это техника оптимизации конкурентности, которая снижает конкуренцию за блокировку в многопоточных приложениях, разделяя одну блокировку на несколько блокировок по разным сегментам данных.

Проблема

Когда одна блокировка защищает всю структуру данных — например массив — несколько потоков, конкурирующих за доступ, создают значительную конкуренцию. Это заставляет потоки ждать без причины, снижая производительность и пропускную способность даже когда они обращаются к разным частям одной и той же структуры данных.

Решение

Разделение блокировок решает эту проблему, распределяя защиту между несколькими блокировками:

• Разделение на уровне элементов: Назначь одну блокировку каждому элементу массива, позволяя потокам одновременно обращаться к разным элементам
• Разделение на уровне бакетов: Используй функцию модуля, чтобы сгруппировать элементы массива и назначить блокировки каждой группе, обеспечивая баланс между гранулярностью блокировки и нагрузкой на память

Преимущества

Сужая область действия каждой блокировки, разделение блокировок даёт:

• Снижение конкуренции за блокировку между потоками
• Улучшенное параллельное выполнение и пропускная способность
• Лучшая масштабируемость в многопоточных окружениях
• Сокращение времени ожидания доступа к потокам

Пример сценария

Вместо одной блокировки, защищающей весь массив:

С разделением блокировок:

Теперь поток A может безопасно обращаться к элементу 0, в то время как поток B одновременно обращается к элементу 1, и ни один из них не ждёт другого.