Прилагательное БЕЗЖАЛОСТНЫЙ образовано от существительного ЖАЛОСТЬ, которое образовано, 
в свою очередь, от глагола ЖАЛЕТЬ посредством суффикса -ОСТЬ-. 
Этот же суффикс остается и в прилагательном и пишется так же, естественно. 
В этом суффиксе находится безударная гласная О. 
Можно ли её проверить? 
Оказывается,  можно. 
Есть даже общее правило написания безударных букв в суффиксах. 
В соответствии с этим правилом проверку правильности написания гласной О в суффиксе -ОСТЬ- нужно произвести словами с тем же суффиксом, но в котором проверяемый гласный будет находиться в сильной позиции (под ударением). 
Такое слово есть - ЗЛОСТЬ. 
Вот с его помощью и устанавливается, что и в слове ЖАЛОСТЬ,  как и в словах слабость, молодость, смелость, суффикс пишется через букву О. 
Впрочем, и так известно, что в русском языке есть суффикс -ОСТЬ- или -ЕСТЬ- (например, свежесть)
Дальше -- проще. 
Приставка БЕЗ нашла свое место перед звонкой согласной, посему и пишется именно так. 
Непроизносимая согласная Т отчетливо звучит в формах слов, где за нее следует гласная. Таких слов много, например, безжалостЕн.