По двум причинам.
Во-первых, доволно значительны потери энергии. Ведь в паровой машине энергия преобразуется в работу не там, где получается, как это имеет место в двигателе внутреннего сгорания. Во-вторых, довольно велики потери в кривошипно-шатунном механизме. Поэтому кпд паровой турбины, в котором такого механизма нет, тоже выше, чем кпд парового двигателя.
Ну а самое главное - это в-третьих. Формула Карно. Кпд теплового двигателя зависит не может превышать величины (Тн-Тх)/Тх, где Тн, Тх - это абсолютная температура рабочего тела в нагретом и охладившемся состоянии. Для водяного пара разница этих температур сравнительно невысока (по сравнению с другими типами двигателя), так что и кпд его тоже невысок.
Для повышения кпд можно работать с перегретым паром (когда пар из кипятильника проходит через дополнительный контур нагрева) - именно такой подход часто реализуется в паротурбинных установках.