Dérivée suivant un vecteur

Soit $f$ une application définie sur un ouvert $U$ de $\mathbb R^n$ à valeurs dans $\mathbb R^p$, soit $a$ un point de $U$ et soit $h\in \mathbb R^n$, $h\neq 0$. On dit que $f$ admet une dérivée en $a$ suivant le vecteur $h$ si la fonction d'une variable réelle $g(t)=f(a+th)$ est dérivable en $0$. Le vecteur $g'(0)$ est alors appelé dérivée de $f$ en $a$ suivant $h$. De façon équivalente, cela signifie que le quotient $$\frac{f(a+th)-f(a)}{t}$$ admet une limite quand $t$ tend vers $0$.

La dérivée suivant un vecteur est une tentative pour généraliser la notion de fonction dérivable aux fonctions de plusieurs variables. Malheureusement, elle n'est pas satisfaisante car il existe des fonctions admettant en $a$ des dérivées suivant tout vecteur, mais qui ne sont pas continues. Considérons par exemple la fonction $f:\mathbb R^2\to\mathbb R^2$ définie par $$f(x,y)=\left\{ \begin{array}{ll} \displaystyle \frac{y^2}x&\textrm{ si }x\neq 0\\[0.1cm] 0&\textrm{ sinon} \end{array}\right.$$ Alors, pour $h=(a,b)$, on a $\displaystyle \frac{f(th)-f(0,0)}{t}=\frac{b^2}{a}$ si $a$ est non nul, $\displaystyle \frac{f(th)-f(0,0)}{t}=0$ sinon. $f$ admet donc bien une dérivée suivant $h$. Mais $f(1/n^2,1/n)=1$ ne tend pas vers 0, alors que $f(0,0)=0$, ce qui prouve que $f$ n'est pas continue en $(0,0)$.