mysql> use test;
Database changed
mysql> select * from emp;
+----+--------------+-----+-----+
| id | name         | age | sex |
+----+--------------+-----+-----+
|  0 | 山岸　正孝   |  37 | 男  |
|  1 | 山田　麗華   |  26 | 女  |
|  2 | 笹山　哲也   |  43 | 男  |
|  3 | 中山　健二   |  23 | 男  |
|  4 | 山崎　真由美 |  31 | 女  |
+----+--------------+-----+-----+
5 rows in set (0.01 sec)
            

Private Sub Button5_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) _
                                                                    Handles Button5.Click
    Try
        Using conn As MySQLConnection = New MySQLConnection( _
                            New MySQLConnectionString("localhost", _
                                                      "test", _
                                                      "root", _
                                                      "", _
                                                      3306).AsString)
            conn.Open()
            Dim dcmd As MySQLDeleteCommand = New MySQLDeleteCommand(conn, _
                                                        "emp", _
                                                        New Object(,) {{"id", "=", "3"}}, _
                                                        Nothing)
        End Using
    Catch ex As MySQLException
        MessageBox.Show(ex.Message, "MySQLエラー")
    Catch ex As Exception
        MessageBox.Show(ex.Message, "一般エラー")
    End Try
    MessageBox.Show("処理完了")
End Sub

mysql> select * from emp;
+----+--------------+-----+-----+
| id | name         | age | sex |
+----+--------------+-----+-----+
|  0 | 山岸　正孝   |  37 | 男  |
|  1 | 山田　麗華   |  26 | 女  |
|  2 | 笹山　哲也   |  43 | 男  |
|  4 | 原田　真由美 |  33 | 女  |
+----+--------------+-----+-----+
4 rows in set (0.00 sec)
MySQLDeleteCommandで削除はできますが、引数指定が面倒なので、MySQLCommandを利用した方がいいですね。