Ottimizzazione convessa - Disuguaglianza di Jensen

Sia S un insieme convesso non vuoto in $ \ mathbb {R} ^ n $ e $ f: S \ rightarrow \ mathbb {R} ^ n $. Allora f è convesso se e solo se per ogni intero $ k> 0 $

$ x_1, x_2, ... x_k \ in S, \ displaystyle \ sum \ limits_ {i = 1} ^ k \ lambda_i = 1, \ lambda_i \ geq 0, \ forall i = 1,2, s, k $, abbiamo $ f \ left (\ displaystyle \ sum \ limits_ {i = 1} ^ k \ lambda_ix_i \ right) \ leq \ displaystyle \ sum \ limits_ {i = 1} ^ k \ lambda _if \ left (x \ right) $

Prova

Per induzione su k.

$ k = 1: x_1 \ in S $ Quindi $ f \ left (\ lambda_1 x_1 \ right) \ leq \ lambda_i f \ left (x_1 \ right) $ perché $ \ lambda_i = 1 $.

$ k = 2: \ lambda_1 + \ lambda_2 = 1 $ e $ x_1, x_2 \ in S $

Pertanto, $ \ lambda_1x_1 + \ lambda_2x_2 \ in S $

Quindi, per definizione, $ f \ left (\ lambda_1 x_1 + \ lambda_2 x_2 \ right) \ leq \ lambda _1f \ left (x_1 \ right) + \ lambda _2f \ left (x_2 \ right) $

Lascia che l'affermazione sia vera per $ n <k $

Perciò,

$ f \ sinistra (\ lambda_1 x_1 + \ lambda_2 x_2 + .... + \ lambda_k x_k \ destra) \ leq \ lambda_1 f \ sinistra (x_1 \ destra) + \ lambda_2 f \ sinistra (x_2 \ destra) + ... + \ lambda_k f \ left (x_k \ right) $

$ k = n + 1: $ Sia $ x_1, x_2, .... x_n, x_ {n + 1} \ in S $ e $ \ displaystyle \ sum \ limits_ {i = 1} ^ {n + 1} = 1 $

Quindi $ \ mu_1x_1 + \ mu_2x_2 + ....... + \ mu_nx_n + \ mu_ {n + 1} x_ {n + 1} \ in S $

quindi $ f \ left (\ mu_1x_1 + \ mu_2x_2 + ... + \ mu_nx_n + \ mu_ {n + 1} x_ {n + 1} \ right) $

$ = f \ sinistra (\ sinistra (\ mu_1 + \ mu_2 + ... + \ mu_n \ destra) \ frac {\ mu_1x_1 + \ mu_2x_2 + ... + \ mu_nx_n} {\ mu_1 + \ mu_2 + \ mu_3} + \ mu_ {n + 1} x_ {n + 1} \ right) $

$ = f \ left (\ mu_y + \ mu_ {n + 1} x_ {n + 1} \ right) $ dove $ \ mu = \ mu_1 + \ mu_2 + ... + \ mu_n $ e

$ y = \ frac {\ mu_1x_1 + \ mu_2x_2 + ... + \ mu_nx_n} {\ mu_1 + \ mu_2 + ... + \ mu_n} $ e anche $ \ mu_1 + \ mu_ {n + 1} = 1, y \ in S $

$ \ Freccia destra f \ sinistra (\ mu_1x_1 + \ mu_2x_2 + ... + \ mu_nx_n + \ mu_ {n + 1} x_ {n + 1} \ destra) \ leq \ mu f \ sinistra (y \ destra) + \ mu_ {n +1} f \ sinistra (x_ {n + 1} \ destra) $

$ \ Freccia destra f \ sinistra (\ mu_1x_1 + \ mu_2x_2 + ... + \ mu_nx_n + \ mu_ {n + 1} x_ {n + 1} \ destra) \ leq $

$ \ sinistra (\ mu_1 + \ mu_2 + ... + \ mu_n \ destra) f \ sinistra (\ frac {\ mu_1x_1 + \ mu_2x_2 + ... + \ mu_nx_n} {\ mu_1 + \ mu_2 + ... + \ mu_n} \ destra) + \ mu_ {n + 1} f \ sinistra (x_ {n + 1} \ destra) $

$ \ Freccia destra f \ sinistra (\ mu_1x_1 + \ mu_2x_2 + ... + \ mu_nx_n + \ mu_ {n + 1} x_ {n + 1} \ destra) \ leq \ sinistra (\ mu_1 + \ mu_2 + ... + \ mu_n \ a destra) $

$ \ left [\ frac {\ mu_1} {\ mu_1 + \ mu_2 + ... + \ mu_n} f \ left (x_1 \ right) + ... + \ frac {\ mu_n} {\ mu_1 + \ mu_2 + ... + \ mu_n} f \ sinistra (x_n \ destra) \ destra] + \ mu_ {n + 1} f \ sinistra (x_ {n + 1} \ destra) $

$ \ Freccia destra f \ sinistra (\ mu_1x_1 + \ mu_2x_2 + ... + \ mu_nx_n + \ mu_ {n + 1} x_ {n + 1} \ destra) \ leq \ mu_1f \ sinistra (x_1 \ destra) + \ mu_2f \ sinistra ( x_2 \ destra) + .... $

Quindi dimostrato.