В KN-1011 стоит четырехядерный процессор, нагрузка 20-30% означает, что одно ядро занято полностью. Если сетевой трафик одного соединения обрабатывается только на одном ядре, большей скорости вы не получите.
Это значит, что в начале диска /dev/sdb есть разметка SWAP-раздела с magic "SWAPSPACE2" и UUID 1cbfca3f-dc6c-44ea-ab03-f75d9c605a7b, как видно из журнала.
Без конфигурации ничего не понятно.
Я попробовал Yandex browser для Linux без каких-либо особенных настроек Keenetic, он без проблем выходит в интернет через 4.01.
Как этот сценарий связан с OpenSSL роутера?
Тут дело точно в чём-то другом, маршрутизация и NAT никак с OpenSSL роутера не связаны.
К серверу на Keenetic? В этом случае может помочь захват и анализ трафика при попытке установки соединения.