Сделать что-то втихомолку, не привлекая к себе внимания, не спеша.
Это выражение близко по смыслу к обороту «под сурдинку», только пришло оно из речи военных.
И не просто военных, а сапёров — оказывается, название этой специальности и происходит от слова «сапа».
Исследователи установили, что слово «сапа» пришло из французского языка и означает «траншея, стрелковый окоп», корень «сап» сохранился в словах сапёр, сапёрный.
А французское слово «сапа» образовалось в свою очередь от итальянского «цаппа» — лопата, заступ.
Сапой во Франции стали называть земляные армейские работы, рытьё окопов и укреплений. Сапёр, соответственно, — тот, кто занимается этой самой сапой.
Тихой сапой — стало быть, работать с особой осторожностью, тайно, чтобы никоим образом не раскрыть себя противнику.

При штурме крепостей нападающая сторона прибегала к тактической хитрости — делала тайный, «тихий» подкоп (сапу) под стены крепости.
В подкоп закладывали порох, взрывали его, и в образовавшийся проем устремлялись воины. Так Иван Грозный разрушил стены казанского кремля и взял Казань.
Выражению «тихой сапой» близок по смыслу фразеологизм «под сурдинку» — то есть тайно, тихо.

На укреплении номер три, японцы ... временно отошли в ближайшие свои траншеи и идут тихой сапой. Вот и всё о нашем участке, — закончил Науменко.
Александр Николаевич Степанов. «Порт-Артур»
