Идите циклом по объектам и проверяйте их тип. Все, что не кнопка(или все, что TextBox) удаляете, остальное не трогаете...

Вот для размышления:

Код:

Dim oSh As Shape

For Each oSh In ActiveSheet.Shapes

Debug.Print oSh.FormControlType; oSh.Name

if oSh.FormControlType = 5 then oSh.Delete

Next oSh

0 - Кнопки
5 - Надписи

__________________
Private Sub CommandButton1_Click()

Dim oSh As Shape

For Each oSh In ActiveSheet.Shapes

If oSh.Type = 17 Then oSh.Delete

Next oSh

End Sub