Я выполнил съемку дна котлована, построил поверхность и вычислил объём, но он неправильный. В чём моя ошибка?

Судя по описанному Вами порядку действий, Вы не включили поверхность откосов в расчет. Это и привело к ошибочному результату. Для того, чтобы поверхность откосов была учтена при расчете, достаточно при создании модели поверхности дна котлована указывать не только контур дна котлована, но и внешний контур откоса. Помимо этого, в программе Topocad имеется специальная функция расчета объемов с учетом откосов. В таком случае достаточно указать контур дна котлована и задать крутизну откосов.