Когда не действуют правила "чу, щу" с буквой "у" и "жи, ши" с буквой "и"?

Действуют почти всегда. Исключение составляют лишь несколько случаев. Попробую их перечислить.

1. В аббревиатурах правило ЧУ-ЩУ, очевидно, не действует, так как там допустимы любые сочетания букв, кроме тех букв, которые в начале слова стоять никак не могут. Самый простой пример — это, собственно, аббревиатура ЧЮ. Расшифровывается она как "чувство юмора".
2. Примерно то же самое касается сложносокращённых слов. Если первая часть сложносокращённого слова оканчивается на букву Ч, а вторая часть начинается с буквы Ю, то, я уверен, в таком слове будет буквосочетание ЧЮ. К сожалению, не могу припомнить сейчас реального слова на данное правило, но... если, допустим, появится какой-нибудь начюст (начальник юстиции), то писаться ему через «чю». (Твёрдый знак в данном случае не ставится, сравните: Минюст, Гитлерюгенд.)
3. Не касается правило ЧУ-ЩУ и написания фамилий. В первую очередь это литовские фамилии: Чюрлёнис, Степонавичюс. По традиции все литовские фамилии или имена, которые в оригинале оканчиваются на -čius, по-русски транслитерируются именно как -ЧЮС.
4. Что касается ЖИ-ШИ, то это куда более незыблемое правило. Единственное исключение, которое я смог вспомнить, — это написание казахского города Шымкент. Впрочем, нужно опять же вспомнить, что фамилии и вообще любые антропонимы пишутся так, как они записаны в документах. Значит, любая фамилия с сочетанием букв ЖЫ или ШЫ вполне имеет право на существование.
5. Может быть, автор вопроса подразумевал ещё и тот случай, когда речь идёт не о русском языке, а о каком-либо другом? Ну тогда, конечно, такое ещё как возможно, в том смысле, что правила ЖИ-ШИ в иных языках могут не работать в принципе! В белорусском языке ЖЫ-ШЫ всегда пишется с буквой Ы, и никак иначе. Уж не знаю, как в казахском дела с буквой И, но ЖЫ-ШЫ там почти всегда пишется через Ы: я замечал это, читая этикетки на товарах, например на пачке сока. В украинском языке после буквы Ч может писаться Ю — в том случае, если Ч удвоена. Что-то вроде следующего предложения: «Вона вдарила його по обличчю» = „Она ударила его по лицу“.