По умолчанию редактирование в DataGridView весьма неинтуитивно, требует либо ввод чего-то либо нажатия F2 либо многократного кликания, но если мы переключимся на редактирование по клику, то столкнемся с совсем другой проблемой - невозможно выбрать всю строку, чтобы удалить ее из таблицы целиком (и в дальнейшем из базы через OleDbAdapter.DeleteCommand). Решить ее можно достаточно простой процедурой по клику на ячейке CellClick:

private void _someDataGridView_CellClick(object sender, DataGridViewCellEventArgs e)
{
    if(e.ColumnIndex == -1)
    {
        _someDataGridView.EditMode = DataGridViewEditMode.EditOnKeystrokeOrF2;
        _someDataGridView.EndEdit();
    }
    else if (_someDataGridView.EditMode != DataGridViewEditMode.EditOnEnter)
    {
        _someDataGridView.EditMode = DataGridViewEditMode.EditOnEnter;
        __someDataGridView.BeginEdit(false);
    }
}

DataGridView.Editmode = EditOnEnter. How to Select the row to Delete it?
DataGridViewEditMode Enumeration