根據最優化導論的相關概念做一個基本的概述和理解;
線段:
以往直線都是針對於二維和三位情況下進行討論,從來沒進行過高維下的線段討論;
對於直線來說,直接定義就是方向向量+一點即可;
但是對於線段來說采用方程的常規設法,來張成一個解區間,進行表示線段;
假設對於n維空間下兩點,如果采用向量表示,有x,y兩點;
設,z位於兩點連接線段的任意一點,則有:
z-y=α(x-y)
其中α位於[0,1]區間內;
對於這個式子其實有點抽象,因為x,y是采用向量表示,從一維二維甚至多維依然有效,本質上就是各個坐標方向的點的計算,z向量也是各個坐標軸上的點數值;
所以化簡就有z=αx+(1-α)y;
這就是線段的表示,也就是線段點的集合;
超平面和線性簇:
書上並沒有對這兩個概念進行解釋,似是而非,這里說一下個人的理解;
超平面:
所謂超平面就是多維空間下能夠將空間分為兩個不重疊互補的子空間的平面。通常來說超平面是低於空間維數n的,但是不一定是子空間(因為超平面有時候不過原點);
超平面的表示由空間下的一個法向量來確定,也就是距離原點距離b下的和法向量正交的所有向量所構成的一個平面;
通常表示為:u=[u1,u2,u3...un]T,uTx=v;
其中x就是該平面上的所有點,v是距離原點的距離;
當v=0的時候,該超平面過原點,且為多維空間Rn下的一個子空間;
因此,超平面也把多維空間分割為兩個子空間:
uTx>=v,正半空間;
uTx<=v,負半空間;

線性簇:
所謂線性簇就是多個超平面的集合,對於m個n維空間下的線性簇,可以簡潔的表示為:
Ax=b,x,b都是向量,代表各個超平面下的u,原點距離b;
凸集:
所謂凸集,官方定義為:
對於一維或者高維情況下,對於已知的兩點u,v,且兩點在Rn可以表示為集合{w屬於Rn:=αu+(1-α)v,α∈[0,1]},則稱w點u,v的凸組合;
其實簡而言之說人話就是指:如果一個集合W,內部的任意兩點所連的線段上的點都在該集合內,就可以認定為這是一個凸組合;
因此:空集、單點集合、一條直線或者線段、子空間、超平面、線性簇、半空間、全集都是凸集;
例如書上給出的經典凸集合:

對於凸集,有如下推廣性質:
若有凸集A,B;
則A+B={x=u+v},仍然屬於凸集;
則A∩B,仍然屬於凸集;
則βA,仍然屬於凸集;
書P34給了三種情況的詳細論證,使用定義來進行論證;
鄰域:
在考研的高等數學中,簡單的研究過領域的概念;
也就是對於一點x,存在y∈Rn,使得||y-x||<σ,所以領域可以視為一個以x為中心點,σ為半徑的球體;
關鍵是區分 開集、閉集、緊集三個概念;
首先要說一下邊界點得問題:
對於一個集合S。
如果存在x某個領域所有的點都屬於S,則x稱為S的內點;
如果存在x的領域內一部分點屬於S,一部分點不屬於S,則稱x為S的邊界點,邊界點的集合也就是S的邊界;
而開集、閉集、緊集這三個概念立足於邊界定義之上:
開集:S包含其集合點的所有領域;實際理解就是不存在邊界點,僅僅有內點。推廣到一維情況,典型的就是(1,2)集合,而x=1,x=2都為該集合的邊界點;
閉集:S包含邊界點,如果一個集合補是開集,則該集合必定是閉集,典型的為[1,2];
緊集:S有界且為閉集;
所以簡而言之閉集、緊集可以取到邊界曲線上的值,對於求解局部極值多了一條曲線取值點,這個是以往高等數學邊界求極值的概念化的表示;
多面體和多胞體:
對於多維下的凸集,已經給過證明,多面體其實是凸集合的延伸概念;
對於某一個凸集合,在其邊界點可以找到一個超平面,使得整個凸集都處於一個半平面內,該超平面稱之為支撐超平面;
由於半平面也為凸集,凸集的交集也為凸集,所以多個使用多個支撐半平面相交,得到多個半平面交集,該集合為凸集,稱之為多面體;
而多胞形就是非空有界的多面體;
