Есть предложение. Раз есть свет, включить котел напрямую в сеть, мимо инвертора и убрать режим генератора, что изменится в измерении и работе инвертора? Вы, я понял землю так и не завели для котла? Линия и нейтраль у Вас не попутаны местами, индикатором проверяли?
Режим генератора наверняка соединяет выходную нейтраль на землю, а земли нет. У меня нейтрали по входу и выходу соеденены вместе и подключены к общей нейтрали сети и никогда не коммутируются и не разрываются. Коммутируется только фаза дома L, то на фазу сети или на выход инвертора, для случая, если нужно включить дом мимо инвертора. Возможно в таком соединении вы получите искуственную землю для котла