- Le but de l'analyse stéganographique est de prouver la présence d'une information cachée dans un signal hôte. Cette étude se focalise sur une analyse stéganographique aveugle des images numériques utilisant des Séparateurs à Vastes Marges (SVM). Dans un premier temps nous décrivons cette méthode de stéganalyse puis nous étudions plusieurs prédicteurs utilisés dans la phase d'extraction de caractéristiques. Enfin nous dégageons des propriétés statistiques et texturelles qui permetteront d'améliorer les performances des classificateurs à vaste marge

BAS, Patrick

CHASSERY, Jean-Marc

ROUE, Benoit

Roué, Benoît

Bas, Patrick

Chassery, Jean-Marc

Hal - Université Grenoble Alpes

Influence des Vecteurs Caractéristiques en Stéganalyse par Séparateurs à Vastes Marges

I-Revues

Influence des Vecteurs Caracte´ristiques en Ste´ganalyse par
Se´parateurs a` Vastes Marges
Benoit Roue1,Patrick Bas2, Jean-Marc Chassery1
1Laboratoire des Images et des Signaux INPG/ENSIEG, Grenoble, France
2Laboratory of Computer Science, Helsinky University of Technology, Finland
First.Name@lis.inpg.fr
Re´sume´ – Le but de l’analyse ste´ganographique est de prouver la pre´sence d’une information cache´e dans un signal hoˆte. Cette
e´tude se focalise sur une analyse ste´ganographique aveugle des images nume´riques utilisant des Se´parateurs a` Vastes Marges
(SVM).
Dans un premier temps nous de´crivons cette me´thode de ste´ganalyse puis nous e´tudions plusieurs pre´dicteurs utilise´s dans la phase
d’extraction de caracte´ristiques. Enfin nous de´gageons des proprie´te´s statistiques et texturelles qui permetteront d’ame´liorer les
performances des classificateurs a` vaste marge.
Abstract – The goal of steganalysis is to search for the presence of hidden information in numerical contents.This paper focuses
on blind steganalysis using Support Vectors Machine (SVM).
First we describe this algoritm, then we study several predictors used during the caracteristics extraction. Finally some attributes
are outlined in order to improve steganalysis accuracy.
1 Introduction
La ste´ganographie consiste en l’insertion d’une informa-
tion dans un support hoˆte sans que celle-ci ne puisse eˆtre
de´celable analytiquement ou visuellement. L’inte´reˆt porte´
a` cette discipline s’est accru depuis que l’on soupc¸onne son
utilisation dans les documents multime´dias [2] [5] [4]
(images nume´riques marque´es, fichiers audio...).
La ste´ganalyse (ou analyse ste´ganographique) a pour ob-
jectif de de´tecter l’e´ventuelle pre´sence d’un message inse´re´
et d’en estimer, si possible, la taille. Plusieurs familles de
techniques d’analyse ste´ganographique ont e´te´ de´veloppe´es
dans la litte´rature, mais nous nous focalisons ici sur des
me´thodes aveugles (i.e. de´tection de la pre´sence d’un mes-
sage sans connaˆıtre l’algorithme d’insertion) base´es sur
l’apprentissage par Se´parateurs a` Vastes Marges (SVM).
2 Me´thode de ste´ganalyse par
SVM
L’analyse ste´ganographique par SVM permet de se´parer,
a` l’aide d’un classifieur, les images ”propres” (images non
marque´es) des stego-images (images contenant un mes-
sage). La construction du classifieur se fait en deux e´tapes :
– une phase d’extraction des caracte´ristiques qui per-
mettront de discriminer les deux classes d’images
– une phase d’entraˆınement du classifieur par Se´para-
teur a` Vaste Marge a` l’aide de ces caracte´ristiques.
2.1 Extraction des caracte´ristiques
Les caracte´ristiques extraites de l’image doivent faire
ressortir au mieux les proprie´te´s de la marque. Lyu et al
[6] proposent une me´thode base´e sur les hautes fre´quences
de l’image. Dans ce travail cette information est extraite
a` partir d’une de´composition multire´solution de l’image
(e.g. de´composition en ondelettes).
Cette de´composition est effectue´e via des filtres miroirs en
quadrature qui de´composent l’image en sous-bandes d’ori-
entations et de fre´quences diffe´rentes (Figure 1) : une sous-
bande horizontale H, verticale V, diagonale D et basse
fre´quence L. En ite´rant le processus sur la sous-bande
basse fre´quence on obtient une de´composition multire´solu-
tion de l’image (Figure 2). Les diffe´rentes sous-bandes a`
l’e´chelle i = 1 . . . n sont note´es Hi, Vi et Di.
Une premie`re se´rie de caracte´ristiques est alors extraite de
chaque sous-bande aux e´chelles 1 a` n − 1 : les moments
centraux normalise´s d’ordre 1 a` 4 (i.e. la moyenne µ, la
variance σ, l’asyme´trie ζ et le kurtosis κ). Pour une sous-
bande B cela donne :
µ = 1
NxNy
∑
x,y B(x, y)
σ = 1
NxNy
∑
x,y(B(x, y)− µ)2
ζ = 1
NxNyσ3
∑
x,y(B(x, y)− µ)3
κ = 1
NxNyσ4
∑
x,y(B(x, y)− µ)4− 3.
(1)
ou` la somme s’effectue sur tous les coefficients de la sous-
bande B de Nx pixels de largeur et de Ny pixels de hau-
teur. Cette ope´ration permet de construire un vecteur car-
acte´ristique de 4× 3× (n− 1) e´le´ments.
Ensuite des caracte´ristiques tenant compte des proprie´te´s
intrinse`ques des images sont calcule´es. En effet dans une
image naturelle les pixels ne varient pas ale´atoirement, il
est donc alors possible de pre´dire la valeur d’un pixel graˆce
a` celle de ses voisins (dans le domaine spatial ou multi-
re´solution).
Cependant, lorsqu’une image a e´te´ ste´ganographie´e la cor-
re´lation locale est perturbe´e. L’erreur de pre´diction est
donc discriminante et peut eˆtre utilise´e afin de construire
le vecteur caracte´ristique.
Pour pre´dire les valeurs Hi(x, y), Vi(x, y) et Di(x, y) (i =
1 . . . n), plusieurs pre´dicteurs peuvent eˆtre utilise´s, et la
section 3 les e´tudiera plus en de´tail.
En combinant les moments issus des sous-bandes elles-
meˆmes et les moments provenant de l’erreur de pre´diction
les auteurs obtiennent donc enfin un vecteur caracte´ristique
de 24 × (n − 1) composantes qui de´crit les statistiques
de l’image analyse´e. C’est ce vecteur qui sera utilise´ dans
l’e´tape suivante : la classification par apprentissage.
2
2
2
2
2
2 jd  
1
3 (n , n )21
2
jd  (n , n )2
2(n , n )
~
a  
(n , n )
j
2
1
1
1 j
(n , n )
~
g(-n)~
j+1
d  1
g(-n)
2a  g(-n)
~h(-n)
~h(-n)
~h(-n)
direction x direction y
Fig. 1 – Principe de de´composition multire´solution.
Fig. 2 – L’image Le´na et sa de´composition sur 3
e´chelles.
2.2 Classification par apprentissage
L’e´tape de classification est faite par apprentissage su-
pervise´ et permet de se´parer en deux classes (images pro-
pres et ste´go-images) toutes les images analyse´es (ou plus
formellement leurs vecteurs caracte´ristiques). Ce dernier
point est le coeur de l’analyse ste´ganographique aveugle.
L’apprentissage supervise´ requiert un entraˆınement du clas-
sifieur qui sera construit a` l’aide d’e´chantillons classe´s au
pre´alable. Dans la litte´rature, il existe plusieurs me´thodes
d’apprentissage supervise´ (re´seaux de neurones, discrimi-
nants line´aires de FISCHER, SVM line´-
aires ou non-line´aires. . .) mais Farid et Lyu [6] proposent
l’utilisation de Se´parateurs a` Vaste Marge non line´aires qui
s’ave`rent eˆtre, dans le cadre de l’analyse ste´ganographique,
les plus efficaces.
Dans le cas d’une SVM line´aire nous allons chercher un
hyperplan de Rd (de dimension n − 1) qui se´parent les
e´chantillons propres des e´chantillons marque´s (l’hyperplan
optimal est obtenu par maximisation de lagrangien), avec,
si les e´chantillons ne sont pas tous se´parables, une fonc-
tion de couˆt de mauvaise classification (Figure 3).
En analyse ste´ganographique il est difficile de se´parer les
e´chantillons avec un hyperplan line´aire (Figure 4), il faut
donc utiliser une SVM non-line´aire. Les donne´es des vec-
teurs caracte´ristiques sont projete´es dans un espace eu-
clidien H de dimension supe´rieure a` d (e´ventuellement
infinie) a` l’aide d’une application injective φ et on ap-
plique une SVM line´aire dans cet espace. De´finir φ serait
couˆteux en tant de calcul ou meˆme the´oriquement impos-
sible, cependant, comme la re´solution de l’hyperplan op-
timal revient a` une maximisation de lagrangien, on peut
re´soudre le proble`me sans connaˆıtre φ. Il suffit de trou-
ver une fonction K : Rd × Rd → R telle que K(−→x ,−→y ) =
φ(−→x )φ(−→y ). De telles fonctions sont appele´es noyaux de
MERCER et le noyau utilise´ dans cette me´thode est le
noyau gaussien :
K(−→x ,−→y ) = exp(−
||−→x −−→y ||2
2σ2
). (2)
ou` σ est la variance de la gaussienne, valeur a` de´terminer
lors de l’apprentissage.
Fig. 3 – SVM line´aire en dimension 2.
Fig. 4 – SVM non-line´aire en dimension 2
3 Etape de pre´diction
Le choix des caracte´ristiques (Section 2.1) qui composent
les vecteurs d’entre´e du syste`me d’apprentissage est une
e´tape cruciale qui de´terminera la qualite´ du classifieur. Le
pre´dicteur utilise´ lors de l’acquisition des statistiques doit
donc eˆtre le plus efficace possible.
3.1 Pre´dicteur line´aire
Pour pre´dire les valeurs Hi(x, y), Vi(x, y) et Di(x, y)
(i = 1 . . . n), FARID et al [3] proposent un pre´dicteur
line´aire 1 :
1* de´signe la valeur pre´dite
H∗i (x, y) = w1Hi(x− 1, y) + w2Hi(x+ 1, y)
+w3Hi(x, y − 1) + w4Hi(x, y + 1)
+w5Hi+1(x/2, y/2) + w6Di(x, y)
+w7Di+1(x/2, y/2)
V ∗i (x, y) = w1Vi(x− 1, y) + w2Vi(x+ 1, y)
+w3Vi(x, y − 1) + w4Vi(x, y + 1)
+w5Vi+1(x/2, y/2) + w6Di(x, y)
+w7Di+1(x/2, y/2)
D∗i (x, y) = w1Di(x− 1, y) + w2Di(x+ 1, y)
+w3Di(x, y − 1) + w4Di(x, y + 1)
+w5Di+1(x/2, y/2) + w6Hi(x, y)
+w7Vi+1(x/2, y/2)
(3)
Les wi sont les parame`tres du pre´dicteur qu’il faut ajuster
pour minimiser l’erreur de pre´diction. On montre que l’er-
reur sur chaque sous bande est donne´e, pour le pre´dicteur
optimal, par2 :
−→
E = log2(
−→
B )− log2(|Q
−→w |) (4)
ou`
−→
B contient les coefficients des sous-bandes, −→w contient
les parame`tres du pre´dicteur, et Q les amplitudes des co-
efficients voisins. A partir de
−→
E sont calcule´es sur chaque
sous- bande les meˆmes statistiques que dans le paragraphe
2.1 ( moyenne µ, variance σ, asyme´trie ζ et kurtosis κ).
Dans l’optique d’ame´liorer la de´tection, nous proposons
d’utiliser d’autres pre´dicteurs.
3.2 Pre´dicteur DCT
L’ide´e est d’utiliser un pre´dicteur plus performant utilise´
dans la norme MPEG4, qui travaille sur les coefficients
DCT de l’image. Il s’agit de pre´dire les coefficients DCT
qui ont une forte probabilite´ d’eˆtre modifie´s par un sche´ma
de ste´ganograhie : les coefficients supe´rieurs gauche de
chaque bloc DCT (e.g. les 10 premiers coefficients lors
d’une lecture en zig-zag). Ensuite les meˆmes moments cen-
traux (Section 2.1) sont extraits de l’image reconstruite
et ces statistiques s’ajoutent a` celles de´duites de l’image
originale pour former un nouveau vecteur caracte´ristique
a` utiliser lors de l’entraˆınement du classifieur.
3.3 Pre´dicteur base´ B-splines
Ici on utilise des B-splines pour pre´dire les coefficients
des sous bandes de la de´composition multire´solution c’est
a` dire que les coefficients a` pre´dire sont interpole´s graˆce
aux B-splines construites par les coefficient voisins (ligne
ou colonne). Ensuite les statistiques sont extraites comme
dans la me´thode de FARID (paragraphe 3.1) et s’ajoutent
aux caracte´ristiques de la section 2.1 pour former un autre
vecteur caracte´ristique.
4 Re´sultats
4.1 Mise en œuvre
Les me´thodes de´crites dans cette e´tude ont e´te´ teste´es
sur plusieurs algorithmes de ste´ganographie existant dans
la litte´rature :
2le log est calcule´ pixel par pixel (ou coefficient par coefficient).
– Outguess, de´veloppe´ par N.Provos en 1999. Cet al-
gorithme modifie les bits de poids faibles de certains
coefficients DCT, puis modifie les coefficients DCT
afin d’obtenir un histogramme identique a` celui de
l’image originale.
– Jphide, de´veloppe´ par A.Latham en 1998. Cet algo-
rithme modifie les bits de poids faibles de certains
coefficients DCT choisis ale´atoirement.
– F5, de´veloppe´ par A.Westfeld et A.Pfitzmann. Comme
les deux autres cet algorithme travaille sur les coef-
ficients DCT mais de´cre´mente leur valeur absolue et
utilise une matrice de codage afin de minimiser le
nombre de coefficients a` modifier.
Ensuite le classifieur a e´te´ entraˆıne´ sur une base d’images
en niveaux de gris (2700 images) contenant le meˆme nom-
bre d’images marque´es et non marque´es. Les images ont
toutes la meˆme taille (512×512) et les messages inse´re´s via
les algorithmes de´crits sont de taille 48×48. Pendant cette
phase, les parame`tres σ et C (respectivement la largeur de
gaussienne et la fonction de couˆt pour mauvaise classifi-
cation) sont de´termine´s par validation croise´e.
Enfin une meˆme quantite´ d’images marque´es par les algo-
rithmes ci-dessus et d’images propres sont utilise´es pour
tester les performance du classifieur SVM obtenu.
4.2 Performances
Les re´sultats obtenus sur des bases de 1500 images par
algoritme d’insertion sont pre´sente´s sur les Figures 5 (pour
le taux de bonne classifications des images propres) et 6
(pour le taux de bonne classification des images contenant
un message).
La me´thode de Farid a une tre`s bonne pre´cision en ce
qui concerne les vrais positifs (images marque´es et re-
connues comme telles) et nos re´sultats avec le pre´dicteur
line´aire (Figure 6) sont e´quivalents (seulement e´quivalents
car la qualite´ d’un classifieur de´pend de la base d’image
utilise´e lors de la phase d’entraˆınement, on ne peut donc
raisonnablement s’attendre a` avoir exactement les meˆmes
re´sultats). Les re´sultats obtenus avec les pre´dicteurs DCT
et B-spline en ce qui concerne les vrais positifs sont bons
aussi, voire tre`s bons pour Outguess car les coefficient
DCT sont modifie´s pour restaurer l’histogramme original.
On peut donc imaginer un classifieur SVM ayant des car-
acte´ristiques extraites a` l’aide de ce pre´dicteur dans le
cadre d’une ste´ganalyse non aveugle (ou` on connait l’al-
gorithme d’insertion).
Cependant nos erreurs de classification, comme celles de
Farid (Figure 5), sont tre`s importantes pour les taux de
faux positifs (30% des images non marque´es sont mal
classe´es) et surtout pour des images texture´es (hautes
fre´quences, beaucoup de contours). Dans ce cas pre´cis le
SVM va conside´rer les images texture´es comme marque´es,
en effet les erreurs de pre´diction, avec tous les pre´dicteurs,
sont importantes dans ce type d’image. Pour ces images il
est donc pre´fe´rable de ne pas utiliser de pre´dicteur.
Fig. 5 – Taux de bonne classification des images non
marque´es.
Fig. 6 – Taux de bonne classification des images
marque´es.
4.3 Analyse
Les performances obtenus avec les trois classifieurs sont
bonnes dans l’ensemble, mais nous pouvons d’ors et de´ja`
tirer des enseignements a` partir des erreurs de pre´dictions
obtenues. Deux causes principales des ces impre´cisions se
de´gagent de notre analyse :
– Les erreurs sur les images texture´es nous poussent a`
de´velopper des solutions pour re´duire l’erreur de clas-
sification par l’utilisation d’outils d’analyse de texture
comme les matrices de cooccurrenceen s’inspirant de
la ste´ganalyse LSB [1].
– Nous avons, pour entrainer les classifieurs, des vecteurs
de dimension 72. c’est beaucoup trop pour une base
de 2700 images. Effectivement en tre`s grande dimen-
sion il faut un nombre quasi-infini d’e´chantillons pour
de´finir un hyperplan. Des me´thodes de se´lection des
de variable peuvent nous permettre de re´duire signi-
ficativement ce nombre de variables.
5 Conclusion et Perspectives
L’extraction des caracte´ristiques est une e´tape primor-
diale dans l’entraˆınement du classifieur. Nous avons voulu
ame´liorer les performances du classifieur en tenant compte,
via de nouveaux pre´dicteurs, des proprie´te´s des images
analyse´es et des algorithmes d’insertion.
Nous pouvons utiliser d’autres pre´dicteur optimaux (Fil-
tre de Kalman. . .) et il sera e´galement important de re´duire
l’erreur de classification relative aux images texture´es par
l’utilisation d’outils de texture comme les matrices de cooc-
currence, comme nous l’avons fait pour la ste´ganalyse LSB
[1].
De plus, plutoˆt que d’obtenir une base d’images tre`s
grande afin d’obtenir un hyperplan se´parateur plus fiable,
nous pouvons re´duire le nombre de coefficients des vecteurs
caracte´ristiques, en effet ces coefficients tels qu’ils sont
de´crits dans cette e´tude sont extre´mement corre´le´s. Une
e´tude en cours vise a` obtenir des vecteurs caracte´ristiques
de dimension 8 en utilisant les meˆmes proce´de´s d’extrac-
tions de caracte´ristiques.
Re´fe´rences
[1] B.Roue, P.Bas, and J-M.Chassery. Improving lsb ste-
ganalysis using marginal and joint probabilistic dis-
tributions. In Multimedia and Security Workshop,
Magdeburg, 2004.
[2] H. Farid. Detecting hidden messages using higher-
order statistical models. In International Conference
on Image Processing, NY, 2002.
[3] H.Farid and S.Lyu. Higher-order wavelet statistics and
their applications to digital forensic. In IEEE Work-
shop on Statistical Analysis in Computer Vision, Wis-
consin, 2003.
[4] J.Fridrich, M.Goljan, and R.Du. Detecting LSB
Steganogeraphy in color and grayscale images. InMag-
azine of IEEE Multimedia Special Issue on Security,
pages 22–28, October 2001.
[5] S.Dumitrescu, X.Wu, and Z.Wang. Detection of LSB
steganography via sample pair analysis. In IEEE
transactions on Signal Processing, pages 1995–2007,
2003.
[6] S.Lyu and H.Farid. Detecting hidden message using
higher-order statistics and support vector machine. In
5th International Workshop on Information Hiding,
Pays-Bas, 2002.


http://documents.irevues.inist.fr/bitstream/2042/13844/1/A162_37299.pdf

Influence des Vecteurs Caractéristiques en Stéganalyse par Séparateurs à Vastes Marges

Abstract

Similar works

Full text

Available Versions

Hal - Université Grenoble Alpes

I-Revues