Заголовки строк вещь достаточно полезная, но если вам это не нужно, то достаточно установить
DataGridView1.RowHeadersVisible = False
Следующие свойства также могут быть полезны
DataGridView1.RowHeadersWidth = 10
DataGridView1.RowHeadersWidthSizeMode = DataGridViewRowHeadersWidthSizeMode.DisableResizing