Кстати, Mariadb меньше памяти есть, чем MySQL 5.0.видимо при переходе на mariadb , слишком мало было озу , она съедает 70/80 проц памяти и что и приводило к ошибке....
Здесь скорее проблема в том, что свободного процесса php-ftp не было и nginx возвращал 504. Я увеличил количество процессов php-fpm и дал им больше памяти.
Mariadb тоже увеличил пул и оптимизировал еще настройки nginx.
Прогнал нагрузочный тест jmeter и результат чуть-ли не в 10 раз улучшились.
Там еще надо настройки допиливать, еще есть некоторые ошибки.