Mislim da bi mogao da uradiš nešto slično ovome


#include <stdio.h>
#include <math.h>

int main()
{

double a,b,c,x1,x2,y1,y2,d;
typedef enum{REALNI,DVOSTRUKI,KOMPLEKSNI,LINEARNA,POGRESNA} Vrsta ;
Vrsta vrsta ;
printf("unesite koeficijente kvadratne jednacine\n");
scanf("%lf%lf%lf",&a,&b,&c);
if(a){/*ovde ispituje a i racuna da je uslov ispunjen ako je a razlicito od 0 */
d=b*b-4*a*c;
printf("determinanta d=%.2f\n",d);
if (d>0){
vrsta=REALNI ;
x1=(-b+sqrt(d))/(2*a);
x2=(-b-sqrt(d))/(2*a);}
else if (d==0){
vrsta=DVOSTRUKI;
x1=-b/(2*a); }
else if (d<0){
vrsta=KOMPLEKSNI ;
x1=-b/(2*a); x2= x1 ;
y1=sqrt (-d)/(2*a); y2= -y1 ;
}}
else if (b){ /*ovde ispituje b posle else naredbe koja se odnosi na if(a) i racuna da je uslov
ispunjen ako je b razlicito od nula */
vrsta=LINEARNA ;
x1=-b/c; x1=x2 ;}
else
vrsta=POGRESNA ;
switch (vrsta){
case REALNI :
printf("resenja jednacine su x1=%.2f x2=%.2f \n",x1,x2);
break ;
case DVOSTRUKI :
printf("resenja jednacine su x1=%.2f \n",x1);
break ;
case KOMPLEKSNI :
printf("jednacina ima kompleksna resenja (x1=%.2f i x2=%.2f)\n i (y1=%.2f i y2=%.2f)\n",x1,x2,y1,y2);
break ;
case LINEARNA :
printf("jednacina ima jedinstveno resenje x1=%.2f \n",x1);
break ;
case POGRESNA :
printf("jednacina nije kvadratna") ;
break ;
}

return 0;
}

Imaš ovde d koje isto ima tri različite mogućnosti kao n kod tebe (<,>,=) sa nulom.
Ovo je samo predlog jer ja sam samo pocetnik kao i ti,ali se javljam jer vidim da ti dugo niko nije dao nikakav odgovor

hvala na ideji... uradih nekako uz pomoć uslova gde je x>y, pow(x,2) > pow (y,2) itd (gde su mi pocetne vrednost imin, max2, max3 jednako x), pa na kraju preko switch-case, gde su ovi uslovi k, a z je jednako dobijenim vrednostima x ili y, nakon uporedjivanja preko uslova...jedino mi je to neko logicno resenje...