Olá Jeferson, basicamente tu precisa seguir esses passos para converter as tabelas do banco de dados.
https://docs.moodle.org/311/en/Administration_via_command_line (vá ao item 8)
Via linha de comando digite o comando abaixo para listar as tabelas que precisam de atenção neste sentido.
php admin/cli/mysql_compressed_rows.php --list
Após este comando é hora de resolver as tabelas com o comando
php admin/cli/mysql_compressed_rows.php --fix
Repare que o comando é o mesmo, só muda o final com o parâmetro --fix. Feito isso acredito que seu problema será resolvido. Pelo menos o problema da mensagem unsupported_db_table_row_format
Abs