Вообще это геометрия - касательная к окружности.
С упрощенными формулами я бы был поосторожнее - они обычно упрощены в рамках некой конкретной задачи (например формула для антенн может давать близкий результат именно для _двух_ удаленных объектов, высота каждого из которых ~ 10^2m, но может сильно врать при изменении входных условий.
ЗЫ: тов. Барон уже немножко ошибся:
1.75^0.5=1.323 итого имеем 5.5 км - уровень грунта, а голову др. человека - до ~10 км, корабль - сильно дальше (вообще это применимо только к морю - даже в равнинной местности незаметные глазу перепады высот могут составлять сотню метров)