Première S : Sens de variation

Tu n'es pas parti dans la bonne direction. Comme tu l'as observé, pour étudier les variations, on peut se donner deux réels $a$ et $b$, avec $a<b$ dans le même intervalle de définition de $f$ et étudier le signe de $f(a)-f(b)$. Cette méthode découle directement de la définition du sens de variation d'une fonction. Mais elle peut être un peu pénible, car calculatoire. En effet, étudier le signe de $\frac{1}{1-a}-\frac{1}{1-b}$, c'est faisable, mais pas très rigolo. Tu réduis au même dénominateur, tu étudies le signe du numérateur et du dénominateur et du pourras conclure.

Mais il y a plus futé. Il faut partir des fonctions de référence, et enchaîner les opérations (cela s'appelle une composition). L'idée est toujours de partir de la formule la plus « petite » possible, puis de faire des opérations élémentaires dessus : changement de signes, inversion, produits, etc.

Ici, la fonction de référence de départ est $x\mapsto x-1$. Que sais-tu du signe et du sens de variation de cette fonction ? Pour construire $f$, il faut inverser $x-1$. Ainsi, quelle est l'influence du passage à l'inverse sur le signe ? est-il conservé, ou modifié ? De même, quelle est la conséquence d'un passage à l'inverse sur le sens de variation ?

Je ne te donne pas de solution toute faite, sinon, ce n'est pas drôle.

Cette question est un peu étrange et très scolaire, du coup c'est une question que je n'aime pas trop. En fait, elle s'applique à toutes les fonctions définies par des calculs algébriques. Mais en même temps, il faut voir au cas par cas. Toutes les fonctions peuvent avoir des signes différents, parfois il peut être difficile de composer dans le bon ordre, etc. Mais surtout, il faut faire attention au domaine de définition.

D'ailleurs, tu as commis l'erreur dans ton exemple : tu affirmes que « $g\circ f$ décroît sur $\mathbb R^*$. Déjà, j'imagine que tu voulais dire $\mathbb R\setminus\{1\}$, mais ça, ce n'est qu'une faute de frappe donc ce n'est pas très grave.

La vraie erreur ici, c'est qu'il n'est pas vrai que $g\circ f$ est décroissante partout. Regarde autour de 1 : en $-\frac12$, l'image vaut -2, et en $\frac12$, elle vaut $2$. Il y a un point de singularité en $-1$, et si tu traces le graphes de la fonction, ça se voit tout de suite : la fonction est seulement décroissante sur chacun de ses intervalles de définition, mais elle n'est pas décroissante dans l'ensemble. D'ailleurs, c'est très facile à voir si tu as tracé, même à main levé rapidement, l'allure de la courbe de ta fonction.

En règle général, c'est un bon réflexe de faire des dessins, même approximatifs. Typiquement, au lycée la calculatrice graphique est autorisée. C'est l'un des rares cas où elle a vraiment un intérêt : elle aide à visualiser les choses. Néanmoins, attention quand même : un dessin de remplace ni un calcul, ni une démonstration.

J'ajoute quelques remarques sur ton erreur concernant le sens de variation. La fonction $x\mapsto\frac{1}{x-1}$ , c'est un peu comme la fonction inverse : elle est décroissante sur $\mathbb R^{-*}$ et sur $\mathbb R^{+*}$, mais pas sur $\mathbb R^*$, car l'inverse d'un nombre négatif est toujours plus petit que l'inverse d'un nombre positif. Typiquement, $-2<4$, et $\frac{1}{-2} < \frac{1}{4}$, donc la fonction inverse n'est pas décroissante partout où elle est définie. C'est une erreur très courante et très connue. Et c'est typiquement le genre d'erreurs qui fait la différence entre « j'ai appliqué la méthode » et « j'ai compris la méthode que j'ai utilisée dans mon cas particulier ».

Je ne dis pas ça avec la moindre méchanceté ni sournoiserie, mais simplement pour te mettre en garde : appliquer des technique, c'est très bien. Mais il faut garder l'esprit critique et s'efforcer de comprendre les choses dans le détail. Cela demande du temps, et c'est difficile à faire au début. C'est pour cela qu'il faut s'entraîner. Et dans la mesure du possible, il faut éviter d'avoir un point de vue trop scolaire sur les choses. Même si ce n'est pas toujours évident.

Modification — Mare à thons m'a signalé quelques fautes de frappe, que j'ai corrigées. Merci à lui.