テーマを変更してから見た目を確認しているときには気付かなかった文字化けを修正しました。
作り立てのころはコメントがついてなかったので分からなかったのですね。化けたり化けなかったりで、外国産テーマは日本語を意識していないから起こるんだろうね。
ソースを見たところ、最近のコメント欄にはsimple-recent-comments WordPress Pluginが使われていることが分かったのでググってみるとすぐに解決策を見つけることができました。
wp-content/themes/glossyblue-1-4/simple_recent_comments.php の内容をコメントアウトして文字化けを解消するコードに置き換えました。