Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux.fr machine (x86_64 architecture), and agregate them in the final report:

The target is 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - basemath - FpXQX_factor.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.10.1 lcov report (development 22726-9e20c6a88) Lines: 1576 1888 83.5 %
Date: 2018-06-23 05:36:28 Functions: 125 147 85.0 %
Legend: Lines: hit not hit

          Line data    Source code
       1             : /* Copyright (C) 2016  The PARI group.
       2             : 
       3             : This file is part of the PARI/GP package.
       4             : 
       5             : PARI/GP is free software; you can redistribute it and/or modify it under the
       6             : terms of the GNU General Public License as published by the Free Software
       7             : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8             : ANY WARRANTY WHATSOEVER.
       9             : 
      10             : Check the License for details. You should have received a copy of it, along
      11             : with the package; see the file 'COPYING'. If not, write to the Free Software
      12             : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13             : 
      14             : #include "pari.h"
      15             : #include "paripriv.h"
      16             : 
      17             : 
      18             : /*******************************************************************/
      19             : /**                                                               **/
      20             : /**           Isomorphisms between finite fields                  **/
      21             : /**                                                               **/
      22             : /*******************************************************************/
      23             : 
      24             : /* compute the reciprocical isomorphism of S mod T,p, i.e. V such that
      25             :    V(S)=X  mod T,p*/
      26             : GEN
      27        1267 : Flxq_ffisom_inv(GEN S,GEN T, ulong p)
      28             : {
      29        1267 :   pari_sp ltop = avma;
      30        1267 :   long n = get_Flx_degree(T);
      31        1267 :   GEN M = Flxq_matrix_pow(S,n,n,T,p);
      32        1267 :   GEN V = Flm_Flc_invimage(M, vecsmall_ei(n, 2), p);
      33        1267 :   return gerepileupto(ltop, Flv_to_Flx(V, get_Flx_var(T)));
      34             : }
      35             : 
      36             : GEN
      37         168 : FpXQ_ffisom_inv(GEN S,GEN T, GEN p)
      38             : {
      39         168 :   pari_sp ltop = avma;
      40         168 :   long n = get_FpX_degree(T);
      41         168 :   GEN V, M = FpXQ_matrix_pow(S,n,n,T,p);
      42         168 :   V = FpM_FpC_invimage(M, col_ei(n, 2), p);
      43         168 :   return gerepilecopy(ltop, RgV_to_RgX(V, get_FpX_var(T)));
      44             : }
      45             : 
      46             : /* Let M the matrix of the Frobenius automorphism of Fp[X]/(T). Compute M^d
      47             :  * TODO: use left-right binary (tricky!) */
      48             : GEN
      49         399 : Flm_Frobenius_pow(GEN M, long d, GEN T, ulong p)
      50             : {
      51         399 :   pari_sp ltop=avma;
      52         399 :   long i,l = get_Flx_degree(T);
      53         399 :   GEN R, W = gel(M,2);
      54         399 :   for (i = 2; i <= d; ++i) W = Flm_Flc_mul(M,W,p);
      55         399 :   R=Flxq_matrix_pow(Flv_to_Flx(W,get_Flx_var(T)),l,l,T,p);
      56         399 :   return gerepileupto(ltop,R);
      57             : }
      58             : 
      59             : GEN
      60          35 : FpM_Frobenius_pow(GEN M, long d, GEN T, GEN p)
      61             : {
      62          35 :   pari_sp ltop=avma;
      63          35 :   long i,l = get_FpX_degree(T);
      64          35 :   GEN R, W = gel(M,2);
      65          35 :   for (i = 2; i <= d; ++i) W = FpM_FpC_mul(M,W,p);
      66          35 :   R=FpXQ_matrix_pow(RgV_to_RgX(W, get_FpX_var(T)),l,l,T,p);
      67          35 :   return gerepilecopy(ltop,R);
      68             : }
      69             : 
      70             : /* Essentially we want to compute FqM_ker(MA-pol_x(v),U,l)
      71             :  * To avoid use of matrix in Fq we compute FpM_ker(U(MA),l) then recover the
      72             :  * eigenvalue by Galois action */
      73             : static GEN
      74        4039 : Flx_Flm_Flc_eval(GEN U, GEN MA, GEN a, ulong p)
      75             : {
      76        4039 :   long i, l = lg(U);
      77        4039 :   GEN b = Flv_Fl_mul(a, uel(U, l-1), p);
      78       22015 :   for (i=l-2; i>=2; i--)
      79       17976 :     b = Flv_add(Flm_Flc_mul(MA, b, p), Flv_Fl_mul(a, uel(U, i), p), p);
      80        4039 :   return b;
      81             : }
      82             : 
      83             : static GEN
      84        3584 : Flx_intersect_ker(GEN P, GEN MA, GEN U, ulong p)
      85             : {
      86        3584 :   pari_sp ltop = avma;
      87        3584 :   long i, vp = get_Flx_var(P), vu = get_Flx_var(U), r = get_Flx_degree(U);
      88             :   GEN V, A, R;
      89             :   ulong ib0;
      90             :   pari_timer T;
      91        3584 :   if (DEBUGLEVEL>=4) timer_start(&T);
      92        3584 :   V = Flx_div(Flx_Fl_add(monomial_Flx(1, get_Flx_degree(P), vu), p-1, p), U, p);
      93             :   do
      94             :   {
      95        4039 :     A = Flx_Flm_Flc_eval(V, MA, random_Flv(lg(MA)-1, p), p);
      96        4039 :   } while (zv_equal0(A));
      97        3584 :   if (DEBUGLEVEL>=4) timer_printf(&T,"matrix polcyclo");
      98             :   /*The formula is
      99             :    * a_{r-1} = -\phi(a_0)/b_0
     100             :    * a_{i-1} = \phi(a_i)+b_ia_{r-1}  i=r-1 to 1
     101             :    * Where a_0=A[1] and b_i=U[i+2] */
     102        3584 :   ib0 = Fl_inv(Fl_neg(U[2], p), p);
     103        3584 :   R = cgetg(r+1,t_MAT);
     104        3584 :   gel(R,1) = A;
     105        3584 :   gel(R,r) = Flm_Flc_mul(MA, Flv_Fl_mul(A,ib0, p), p);
     106        8526 :   for(i=r-1; i>1; i--)
     107             :   {
     108        4942 :     gel(R,i) = Flm_Flc_mul(MA,gel(R,i+1),p);
     109        4942 :     Flv_add_inplace(gel(R,i), Flv_Fl_mul(gel(R,r), U[i+2], p), p);
     110             :   }
     111        3584 :   return gerepileupto(ltop, Flm_to_FlxX(Flm_transpose(R),vp,vu));
     112             : }
     113             : 
     114             : static GEN
     115         182 : FpX_FpM_FpC_eval(GEN U, GEN MA, GEN a, GEN p)
     116             : {
     117         182 :   long i, l = lg(U);
     118         182 :   GEN b = FpC_Fp_mul(a, gel(U, l-1), p);
     119         966 :   for (i=l-2; i>=2; i--)
     120         784 :     b = FpC_add(FpM_FpC_mul(MA, b, p), FpC_Fp_mul(a, gel(U, i), p), p);
     121         182 :   return b;
     122             : }
     123             : 
     124             : static GEN
     125         182 : FpX_intersect_ker(GEN P, GEN MA, GEN U, GEN l)
     126             : {
     127         182 :   pari_sp ltop = avma;
     128         182 :   long i, vp = get_FpX_var(P), vu = get_FpX_var(U), r = get_FpX_degree(U);
     129             :   GEN V, A, R, ib0;
     130             :   pari_timer T;
     131         182 :   if (DEBUGLEVEL>=4) timer_start(&T);
     132         182 :   V = FpX_div(FpX_Fp_sub(pol_xn(get_FpX_degree(P), vu), gen_1, l), U, l);
     133             :   do
     134             :   {
     135         182 :     A = FpX_FpM_FpC_eval(V, MA, random_FpC(lg(MA)-1, l), l);
     136         182 :   } while (ZV_equal0(A));
     137         182 :   if (DEBUGLEVEL>=4) timer_printf(&T,"matrix polcyclo");
     138             :   /*The formula is
     139             :    * a_{r-1} = -\phi(a_0)/b_0
     140             :    * a_{i-1} = \phi(a_i)+b_ia_{r-1}  i=r-1 to 1
     141             :    * Where a_0=A[1] and b_i=U[i+2] */
     142         182 :   ib0 = Fp_inv(negi(gel(U,2)),l);
     143         182 :   R = cgetg(r+1,t_MAT);
     144         182 :   gel(R,1) = A;
     145         182 :   gel(R,r) = FpM_FpC_mul(MA, FpC_Fp_mul(A,ib0,l), l);
     146         518 :   for(i=r-1;i>1;i--)
     147        1008 :     gel(R,i) = FpC_add(FpM_FpC_mul(MA,gel(R,i+1),l),
     148         672 :         FpC_Fp_mul(gel(R,r), gel(U,i+2), l),l);
     149         182 :   return gerepilecopy(ltop,RgM_to_RgXX(shallowtrans(R),vp,vu));
     150             : }
     151             : 
     152             : /* n must divide both the degree of P and Q.  Compute SP and SQ such
     153             :  * that the subfield of FF_l[X]/(P) generated by SP and the subfield of
     154             :  * FF_l[X]/(Q) generated by SQ are isomorphic of degree n.  P and Q do
     155             :  * not need to be of the same variable; if MA, resp. MB, is not NULL, must be
     156             :  * the matrix of the Frobenius map in FF_l[X]/(P), resp. FF_l[X]/(Q).
     157             :  * Implementation choice:  we assume the prime p is large so we handle
     158             :  * Frobenius as matrices. */
     159             : void
     160        8484 : Flx_ffintersect(GEN P, GEN Q, long n, ulong l,GEN *SP, GEN *SQ, GEN MA, GEN MB)
     161             : {
     162        8484 :   pari_sp ltop = avma;
     163        8484 :   long vp = get_Flx_var(P), vq =  get_Flx_var(Q);
     164        8484 :   long np = get_Flx_degree(P), nq = get_Flx_degree(Q), e;
     165             :   ulong pg;
     166             :   GEN A, B, Ap, Bp;
     167        8484 :   if (np<=0) pari_err_IRREDPOL("FpX_ffintersect", P);
     168        8484 :   if (nq<=0) pari_err_IRREDPOL("FpX_ffintersect", Q);
     169        8484 :   if (n<=0 || np%n || nq%n)
     170           0 :     pari_err_TYPE("FpX_ffintersect [bad degrees]",stoi(n));
     171        8484 :   e = u_lvalrem(n, l, &pg);
     172        8484 :   if(!MA) MA = Flx_matFrobenius(P,l);
     173        8484 :   if(!MB) MB = Flx_matFrobenius(Q,l);
     174        8484 :   A = Ap = pol0_Flx(vp);
     175        8484 :   B = Bp = pol0_Flx(vq);
     176        8484 :   if (pg > 1)
     177             :   {
     178             :     pari_timer T;
     179        5726 :     GEN ipg = utoipos(pg);
     180        5726 :     if (l%pg == 1)
     181             :     /* No need to use relative extension, so don't. (Well, now we don't
     182             :      * in the other case either, but this special case is more efficient) */
     183             :     {
     184             :       ulong L, z, An, Bn;
     185        3934 :       z = Fl_neg(rootsof1_Fl(pg, l), l);
     186        3934 :       if (DEBUGLEVEL>=4) timer_start(&T);
     187        3934 :       A = Flm_ker(Flm_Fl_add(MA, z, l),l);
     188        3934 :       if (lg(A)!=2) pari_err_IRREDPOL("FpX_ffintersect",P);
     189        3934 :       A = Flv_to_Flx(gel(A,1),vp);
     190             : 
     191        3934 :       B = Flm_ker(Flm_Fl_add(MB, z, l),l);
     192        3934 :       if (lg(B)!=2) pari_err_IRREDPOL("FpX_ffintersect",Q);
     193        3934 :       B = Flv_to_Flx(gel(B,1),vq);
     194             : 
     195        3934 :       if (DEBUGLEVEL>=4) timer_printf(&T, "FpM_ker");
     196        3934 :       An = Flxq_powu(A,pg,P,l)[2];
     197        3934 :       Bn = Flxq_powu(B,pg,Q,l)[2];
     198        3934 :       if (!Bn) pari_err_IRREDPOL("FpX_ffintersect", mkvec2(P,Q));
     199        3934 :       z = Fl_div(An,Bn,l);
     200        3934 :       L = Fl_sqrtn(z, pg, l, NULL);
     201        3934 :       if (L==ULONG_MAX) pari_err_IRREDPOL("FpX_ffintersect", mkvec2(P,Q));
     202        3934 :       if (DEBUGLEVEL>=4) timer_printf(&T, "Fp_sqrtn");
     203        3934 :       B = Flx_Fl_mul(B,L,l);
     204             :     }
     205             :     else
     206             :     {
     207             :       GEN L, An, Bn, z, U;
     208        1792 :       U = gmael(Flx_factor(ZX_to_Flx(polcyclo(pg, fetch_var()),l),l),1,1);
     209        1792 :       A = Flx_intersect_ker(P, MA, U, l);
     210        1792 :       B = Flx_intersect_ker(Q, MB, U, l);
     211        1792 :       if (DEBUGLEVEL>=4) timer_start(&T);
     212        1792 :       An = gel(FlxYqq_pow(A,ipg,P,U,l),2);
     213        1792 :       Bn = gel(FlxYqq_pow(B,ipg,Q,U,l),2);
     214        1792 :       if (DEBUGLEVEL>=4) timer_printf(&T,"pows [P,Q]");
     215        1792 :       z = Flxq_div(An,Bn,U,l);
     216        1792 :       L = Flxq_sqrtn(z,ipg,U,l,NULL);
     217        1792 :       if (!L) pari_err_IRREDPOL("FpX_ffintersect", mkvec2(P,Q));
     218        1792 :       if (DEBUGLEVEL>=4) timer_printf(&T,"FpXQ_sqrtn");
     219        1792 :       B = FlxqX_Flxq_mul(B,L,U,l);
     220        1792 :       A = FlxY_evalx(A,0,l);
     221        1792 :       B = FlxY_evalx(B,0,l);
     222        1792 :       (void)delete_var();
     223             :     }
     224             :   }
     225        8484 :   if (e)
     226             :   {
     227             :     GEN VP, VQ, Ay, By;
     228        2821 :     ulong lmun = l-1;
     229             :     long j;
     230        2821 :     MA = Flm_Fl_add(MA,lmun,l);
     231        2821 :     MB = Flm_Fl_add(MB,lmun,l);
     232        2821 :     Ay = pol1_Flx(vp);
     233        2821 :     By = pol1_Flx(vq);
     234        2821 :     VP = vecsmall_ei(np, 1);
     235        2821 :     VQ = np == nq? VP: vecsmall_ei(nq, 1); /* save memory */
     236        5908 :     for(j=0;j<e;j++)
     237             :     {
     238        3087 :       if (j)
     239             :       {
     240         266 :         Ay = Flxq_mul(Ay,Flxq_powu(Ap,lmun,P,l),P,l);
     241         266 :         VP = Flx_to_Flv(Ay,np);
     242             :       }
     243        3087 :       Ap = Flm_Flc_invimage(MA,VP,l);
     244        3087 :       Ap = Flv_to_Flx(Ap,vp);
     245             : 
     246        3087 :       if (j)
     247             :       {
     248         266 :         By = Flxq_mul(By,Flxq_powu(Bp,lmun,Q,l),Q,l);
     249         266 :         VQ = Flx_to_Flv(By,nq);
     250             :       }
     251        3087 :       Bp = Flm_Flc_invimage(MB,VQ,l);
     252        3087 :       Bp = Flv_to_Flx(Bp,vq);
     253             :     }
     254             :   }
     255        8484 :   *SP = Flx_add(A,Ap,l);
     256        8484 :   *SQ = Flx_add(B,Bp,l);
     257        8484 :   gerepileall(ltop,2,SP,SQ);
     258        8484 : }
     259             : 
     260             : /* Let l be a prime number, P, Q in Z[X]; both are irreducible modulo l and
     261             :  * degree(P) divides degree(Q).  Output a monomorphism between F_l[X]/(P) and
     262             :  * F_l[X]/(Q) as a polynomial R such that Q | P(R) mod l.  If P and Q have the
     263             :  * same degree, it is of course an isomorphism.  */
     264             : GEN
     265        1267 : Flx_ffisom(GEN P,GEN Q,ulong l)
     266             : {
     267        1267 :   pari_sp av = avma;
     268             :   GEN SP, SQ, R;
     269        1267 :   Flx_ffintersect(P,Q,get_Flx_degree(P),l,&SP,&SQ,NULL,NULL);
     270        1267 :   R = Flxq_ffisom_inv(SP,P,l);
     271        1267 :   return gerepileupto(av, Flx_Flxq_eval(R,SQ,Q,l));
     272             : }
     273             : 
     274             : void
     275         308 : FpX_ffintersect(GEN P, GEN Q, long n, GEN l, GEN *SP, GEN *SQ, GEN MA, GEN MB)
     276             : {
     277         308 :   pari_sp ltop = avma;
     278             :   long vp, vq, np, nq, e;
     279             :   ulong pg;
     280             :   GEN A, B, Ap, Bp;
     281         308 :   if (lgefint(l)==3)
     282             :   {
     283           0 :     ulong pp = l[2];
     284           0 :     GEN Pp = ZX_to_Flx(P,pp), Qp = ZX_to_Flx(Q,pp);
     285           0 :     GEN MAp = MA ? ZM_to_Flm(MA, pp): NULL;
     286           0 :     GEN MBp = MB ? ZM_to_Flm(MB, pp): NULL;
     287           0 :     Flx_ffintersect(Pp, Qp, n, pp, SP, SQ, MAp, MBp);
     288           0 :     *SP = Flx_to_ZX(*SP); *SQ = Flx_to_ZX(*SQ);
     289           0 :     gerepileall(ltop,2,SP,SQ);
     290           0 :     return;
     291             :   }
     292         308 :   vp = get_FpX_var(P); np = get_FpX_degree(P);
     293         308 :   vq = get_FpX_var(Q); nq = get_FpX_degree(Q);
     294         308 :   if (np<=0) pari_err_IRREDPOL("FpX_ffintersect", P);
     295         308 :   if (nq<=0) pari_err_IRREDPOL("FpX_ffintersect", Q);
     296         308 :   if (n<=0 || np%n || nq%n)
     297           0 :     pari_err_TYPE("FpX_ffintersect [bad degrees]",stoi(n));
     298         308 :   e = u_pvalrem(n, l, &pg);
     299         308 :   if(!MA) MA = FpX_matFrobenius(P, l);
     300         308 :   if(!MB) MB = FpX_matFrobenius(Q, l);
     301         308 :   A = Ap = pol_0(vp);
     302         308 :   B = Bp = pol_0(vq);
     303         308 :   if (pg > 1)
     304             :   {
     305         308 :     GEN ipg = utoipos(pg);
     306             :     pari_timer T;
     307         308 :     if (umodiu(l,pg) == 1)
     308             :     /* No need to use relative extension, so don't. (Well, now we don't
     309             :      * in the other case either, but this special case is more efficient) */
     310             :     {
     311             :       GEN L, An, Bn, z;
     312         217 :       z = negi( rootsof1u_Fp(pg, l) );
     313         217 :       if (DEBUGLEVEL>=4) timer_start(&T);
     314         217 :       A = FpM_ker(RgM_Rg_add_shallow(MA, z),l);
     315         217 :       if (lg(A)!=2) pari_err_IRREDPOL("FpX_ffintersect",P);
     316         217 :       A = RgV_to_RgX(gel(A,1),vp);
     317             : 
     318         217 :       B = FpM_ker(RgM_Rg_add_shallow(MB, z),l);
     319         217 :       if (lg(B)!=2) pari_err_IRREDPOL("FpX_ffintersect",Q);
     320         217 :       B = RgV_to_RgX(gel(B,1),vq);
     321             : 
     322         217 :       if (DEBUGLEVEL>=4) timer_printf(&T, "FpM_ker");
     323         217 :       An = gel(FpXQ_pow(A,ipg,P,l),2);
     324         217 :       Bn = gel(FpXQ_pow(B,ipg,Q,l),2);
     325         217 :       if (!signe(Bn)) pari_err_IRREDPOL("FpX_ffintersect", mkvec2(P,Q));
     326         217 :       z = Fp_div(An,Bn,l);
     327         217 :       L = Fp_sqrtn(z,ipg,l,NULL);
     328         217 :       if (!L) pari_err_IRREDPOL("FpX_ffintersect", mkvec2(P,Q));
     329         217 :       if (DEBUGLEVEL>=4) timer_printf(&T, "Fp_sqrtn");
     330         217 :       B = FpX_Fp_mul(B,L,l);
     331             :     }
     332             :     else
     333             :     {
     334             :       GEN L, An, Bn, z, U;
     335          91 :       U = gmael(FpX_factor(polcyclo(pg,fetch_var()),l),1,1);
     336          91 :       A = FpX_intersect_ker(P, MA, U, l);
     337          91 :       B = FpX_intersect_ker(Q, MB, U, l);
     338          91 :       if (DEBUGLEVEL>=4) timer_start(&T);
     339          91 :       An = gel(FpXYQQ_pow(A,ipg,P,U,l),2);
     340          91 :       Bn = gel(FpXYQQ_pow(B,ipg,Q,U,l),2);
     341          91 :       if (DEBUGLEVEL>=4) timer_printf(&T,"pows [P,Q]");
     342          91 :       if (!signe(Bn)) pari_err_IRREDPOL("FpX_ffintersect", mkvec2(P,Q));
     343          91 :       z = Fq_div(An,Bn,U,l);
     344          91 :       L = Fq_sqrtn(z,ipg,U,l,NULL);
     345          91 :       if (!L) pari_err_IRREDPOL("FpX_ffintersect", mkvec2(P,Q));
     346          91 :       if (DEBUGLEVEL>=4) timer_printf(&T,"FpXQ_sqrtn");
     347          91 :       B = FqX_Fq_mul(B,L,U,l);
     348          91 :       A = FpXY_evalx(A,gen_0,l);
     349          91 :       B = FpXY_evalx(B,gen_0,l);
     350          91 :       (void)delete_var();
     351             :     }
     352             :   }
     353         308 :   if (e)
     354             :   {
     355           0 :     GEN VP, VQ, Ay, By, lmun = subiu(l,1);
     356             :     long j;
     357           0 :     MA = RgM_Rg_add_shallow(MA,gen_m1);
     358           0 :     MB = RgM_Rg_add_shallow(MB,gen_m1);
     359           0 :     Ay = pol_1(vp);
     360           0 :     By = pol_1(vq);
     361           0 :     VP = col_ei(np, 1);
     362           0 :     VQ = np == nq? VP: col_ei(nq, 1); /* save memory */
     363           0 :     for(j=0;j<e;j++)
     364             :     {
     365           0 :       if (j)
     366             :       {
     367           0 :         Ay = FpXQ_mul(Ay,FpXQ_pow(Ap,lmun,P,l),P,l);
     368           0 :         VP = RgX_to_RgC(Ay,np);
     369             :       }
     370           0 :       Ap = FpM_FpC_invimage(MA,VP,l);
     371           0 :       Ap = RgV_to_RgX(Ap,vp);
     372             : 
     373           0 :       if (j)
     374             :       {
     375           0 :         By = FpXQ_mul(By,FpXQ_pow(Bp,lmun,Q,l),Q,l);
     376           0 :         VQ = RgX_to_RgC(By,nq);
     377             :       }
     378           0 :       Bp = FpM_FpC_invimage(MB,VQ,l);
     379           0 :       Bp = RgV_to_RgX(Bp,vq);
     380             :     }
     381             :   }
     382         308 :   *SP = FpX_add(A,Ap,l);
     383         308 :   *SQ = FpX_add(B,Bp,l);
     384         308 :   gerepileall(ltop,2,SP,SQ);
     385             : }
     386             : /* Let l be a prime number, P, Q in Z[X]; both are irreducible modulo l and
     387             :  * degree(P) divides degree(Q).  Output a monomorphism between F_l[X]/(P) and
     388             :  * F_l[X]/(Q) as a polynomial R such that Q | P(R) mod l.  If P and Q have the
     389             :  * same degree, it is of course an isomorphism.  */
     390             : GEN
     391        1225 : FpX_ffisom(GEN P, GEN Q, GEN p)
     392             : {
     393        1225 :   pari_sp av = avma;
     394             :   GEN SP, SQ, R;
     395        1225 :   if (lgefint(p)==3)
     396             :   {
     397        1225 :     ulong pp = p[2];
     398        1225 :     GEN R = Flx_ffisom(ZX_to_Flx(P,pp), ZX_to_Flx(Q,pp), pp);
     399        1225 :     return gerepileupto(av, Flx_to_ZX(R));
     400             :   }
     401           0 :   FpX_ffintersect(P,Q,get_FpX_degree(P),p,&SP,&SQ,NULL,NULL);
     402           0 :   R = FpXQ_ffisom_inv(SP,P,p);
     403           0 :   return gerepileupto(av, FpX_FpXQ_eval(R,SQ,Q,p));
     404             : }
     405             : 
     406             : /* Let l be a prime number, P a ZX irreducible modulo l, MP the matrix of the
     407             :  * Frobenius automorphism of F_l[X]/(P).
     408             :  * Factor P over the subfield of F_l[X]/(P) of index d. */
     409             : static GEN
     410         308 : FpX_factorgalois(GEN P, GEN l, long d, long w, GEN MP)
     411             : {
     412         308 :   pari_sp ltop = avma;
     413             :   GEN R, V, Tl, z, M;
     414         308 :   long v = get_FpX_var(P), n = get_FpX_degree(P);
     415         308 :   long k, m = n/d;
     416             : 
     417             :   /* x - y */
     418         308 :   if (m == 1) return deg1pol_shallow(gen_1, deg1pol_shallow(subis(l,1), gen_0, w), v);
     419          35 :   M = FpM_Frobenius_pow(MP,d,P,l);
     420             : 
     421          35 :   Tl = leafcopy(P); setvarn(Tl,w);
     422          35 :   V = cgetg(m+1,t_VEC);
     423          35 :   gel(V,1) = pol_x(w);
     424          35 :   z = gel(M,2);
     425          35 :   gel(V,2) = RgV_to_RgX(z,w);
     426          77 :   for(k=3;k<=m;k++)
     427             :   {
     428          42 :     z = FpM_FpC_mul(M,z,l);
     429          42 :     gel(V,k) = RgV_to_RgX(z,w);
     430             :   }
     431          35 :   R = FqV_roots_to_pol(V,Tl,l,v);
     432          35 :   return gerepileupto(ltop,R);
     433             : }
     434             : /* same: P is an Flx, MP an Flm */
     435             : static GEN
     436        7217 : Flx_factorgalois(GEN P, ulong l, long d, long w, GEN MP)
     437             : {
     438        7217 :   pari_sp ltop = avma;
     439             :   GEN R, V, Tl, z, M;
     440        7217 :   long k, n = get_Flx_degree(P), m = n/d;
     441        7217 :   long v = get_Flx_var(P);
     442             : 
     443        7217 :   if (m == 1) {
     444        6818 :     R = polx_Flx(v);
     445        6818 :     gel(R,2) = z = polx_Flx(w); z[3] = l - 1; /* - y */
     446        6818 :     gel(R,3) = pol1_Flx(w);
     447        6818 :     return R; /* x - y */
     448             :   }
     449         399 :   M = Flm_Frobenius_pow(MP,d,P,l);
     450             : 
     451         399 :   Tl = leafcopy(P); setvarn(Tl,w);
     452         399 :   V = cgetg(m+1,t_VEC);
     453         399 :   gel(V,1) = polx_Flx(w);
     454         399 :   z = gel(M,2);
     455         399 :   gel(V,2) = Flv_to_Flx(z,w);
     456         700 :   for(k=3;k<=m;k++)
     457             :   {
     458         301 :     z = Flm_Flc_mul(M,z,l);
     459         301 :     gel(V,k) = Flv_to_Flx(z,w);
     460             :   }
     461         399 :   R = FlxqV_roots_to_pol(V,Tl,l,v);
     462         399 :   return gerepileupto(ltop,R);
     463             : }
     464             : 
     465             : GEN
     466       33327 : Flx_factorff_irred(GEN P, GEN Q, ulong p)
     467             : {
     468       33327 :   pari_sp ltop = avma, av;
     469             :   GEN SP, SQ, MP, MQ, M, FP, FQ, E, V, IR, res;
     470       33327 :   long np = get_Flx_degree(P), nq = get_Flx_degree(Q), d = ugcd(np,nq);
     471       33327 :   long i, vp = get_Flx_var(P), vq = get_Flx_var(Q);
     472       33327 :   if (d==1) retmkcol(Flx_to_FlxX(P, vq));
     473        7217 :   FQ = Flx_matFrobenius(Q,p);
     474        7217 :   av = avma;
     475        7217 :   FP = Flx_matFrobenius(P,p);
     476        7217 :   Flx_ffintersect(P,Q,d,p,&SP,&SQ, FP, FQ);
     477        7217 :   E = Flx_factorgalois(P,p,d,vq, FP);
     478        7217 :   E = FlxX_to_Flm(E,np);
     479        7217 :   MP= Flxq_matrix_pow(SP,np,d,P,p);
     480        7217 :   IR= gel(Flm_indexrank(MP,p),1);
     481        7217 :   E = rowpermute(E, IR);
     482        7217 :   M = rowpermute(MP,IR);
     483        7217 :   M = Flm_inv(M,p);
     484        7217 :   MQ= Flxq_matrix_pow(SQ,nq,d,Q,p);
     485        7217 :   M = Flm_mul(MQ,M,p);
     486        7217 :   M = Flm_mul(M,E,p);
     487        7217 :   M = gerepileupto(av,M);
     488        7217 :   V = cgetg(d+1,t_VEC);
     489        7217 :   gel(V,1) = M;
     490       24451 :   for(i=2;i<=d;i++)
     491       17234 :     gel(V,i) = Flm_mul(FQ,gel(V,i-1),p);
     492        7217 :   res = cgetg(d+1,t_COL);
     493       31668 :   for(i=1;i<=d;i++)
     494       24451 :     gel(res,i) = Flm_to_FlxX(gel(V,i),vp,vq);
     495        7217 :   return gerepileupto(ltop,res);
     496             : }
     497             : 
     498             : /* P,Q irreducible over F_p. Factor P over FF_p[X] / Q  [factors are ordered as
     499             :  * a Frobenius cycle] */
     500             : GEN
     501         735 : FpX_factorff_irred(GEN P, GEN Q, GEN p)
     502             : {
     503         735 :   pari_sp ltop = avma, av;
     504             :   GEN res;
     505         735 :   long np = get_FpX_degree(P), nq = get_FpX_degree(Q), d = ugcd(np,nq);
     506         735 :   if (d==1) return mkcolcopy(P);
     507             : 
     508         693 :   if (lgefint(p)==3)
     509             :   {
     510         385 :     ulong pp = p[2];
     511         385 :     GEN F = Flx_factorff_irred(ZX_to_Flx(P,pp), ZX_to_Flx(Q,pp), pp);
     512         385 :     long i, lF = lg(F);
     513         385 :     res = cgetg(lF, t_COL);
     514        2268 :     for(i=1; i<lF; i++)
     515        1883 :       gel(res,i) = FlxX_to_ZXX(gel(F,i));
     516             :   }
     517             :   else
     518             :   {
     519             :     GEN SP, SQ, MP, MQ, M, FP, FQ, E, V, IR;
     520         308 :     long i, vp = get_FpX_var(P), vq = get_FpX_var(Q);
     521         308 :     FQ = FpX_matFrobenius(Q,p);
     522         308 :     av = avma;
     523         308 :     FP = FpX_matFrobenius(P,p);
     524         308 :     FpX_ffintersect(P,Q,d,p,&SP,&SQ,FP,FQ);
     525             : 
     526         308 :     E = FpX_factorgalois(P,p,d,vq,FP);
     527         308 :     E = RgXX_to_RgM(E,np);
     528         308 :     MP= FpXQ_matrix_pow(SP,np,d,P,p);
     529         308 :     IR= gel(FpM_indexrank(MP,p),1);
     530         308 :     E = rowpermute(E, IR);
     531         308 :     M = rowpermute(MP,IR);
     532         308 :     M = FpM_inv(M,p);
     533         308 :     MQ= FpXQ_matrix_pow(SQ,nq,d,Q,p);
     534         308 :     M = FpM_mul(MQ,M,p);
     535         308 :     M = FpM_mul(M,E,p);
     536         308 :     M = gerepileupto(av,M);
     537         308 :     V = cgetg(d+1,t_VEC);
     538         308 :     gel(V,1) = M;
     539        1022 :     for(i=2;i<=d;i++)
     540         714 :       gel(V,i) = FpM_mul(FQ,gel(V,i-1),p);
     541         308 :     res = cgetg(d+1,t_COL);
     542        1330 :     for(i=1;i<=d;i++)
     543        1022 :       gel(res,i) = RgM_to_RgXX(gel(V,i),vp,vq);
     544             :   }
     545         693 :   return gerepilecopy(ltop,res);
     546             : }
     547             : 
     548             : /* not memory-clean, as Flx_factorff_i, returning only linear factors */
     549             : static GEN
     550       27377 : Flx_rootsff_i(GEN P, GEN T, ulong p)
     551             : {
     552       27377 :   GEN V, F = gel(Flx_factor(P,p), 1);
     553       27377 :   long i, lfact = 1, nmax = lgpol(P), n = lg(F), dT = get_Flx_degree(T);
     554             : 
     555       27377 :   V = cgetg(nmax,t_COL);
     556       58436 :   for(i=1;i<n;i++)
     557             :   {
     558       31059 :     GEN R, Fi = gel(F,i);
     559       31059 :     long di = degpol(Fi), j, r;
     560       31059 :     if (dT % di) continue;
     561       29337 :     R = Flx_factorff_irred(gel(F,i),T,p);
     562       29337 :     r = lg(R);
     563       72912 :     for (j=1; j<r; j++,lfact++)
     564       43575 :       gel(V,lfact) = Flx_neg(gmael(R,j, 2), p);
     565             :   }
     566       27377 :   setlg(V,lfact);
     567       27377 :   gen_sort_inplace(V, (void*) &cmp_Flx, &cmp_nodata, NULL);
     568       27377 :   return V;
     569             : }
     570             : GEN
     571           0 : Flx_rootsff(GEN P, GEN T, ulong p)
     572             : {
     573           0 :   pari_sp av = avma;
     574           0 :   return gerepilecopy(av, Flx_rootsff_i(P, T, p));
     575             : }
     576             : 
     577             : /* dummy implementation */
     578             : static GEN
     579       16597 : F2x_rootsff_i(GEN P, GEN T)
     580             : {
     581       16597 :   return FlxC_to_F2xC(Flx_rootsff_i(F2x_to_Flx(P), F2x_to_Flx(T), 2UL));
     582             : }
     583             : 
     584             : /* not memory-clean, as FpX_factorff_i, returning only linear factors */
     585             : static GEN
     586         294 : FpX_rootsff_i(GEN P, GEN T, GEN p)
     587             : {
     588             :   GEN V, F;
     589             :   long i, lfact, nmax, n, dT;
     590         294 :   if (lgefint(p)==3)
     591             :   {
     592           0 :     ulong pp = p[2];
     593           0 :     GEN V = Flx_rootsff_i(ZX_to_Flx(P,pp), ZXT_to_FlxT(T,pp), pp);
     594           0 :     return FlxC_to_ZXC(V);
     595             :   }
     596         294 :   F = gel(FpX_factor(P,p), 1);
     597         294 :   lfact = 1; nmax = lgpol(P); n = lg(F); dT = get_FpX_degree(T);
     598             : 
     599         294 :   V = cgetg(nmax,t_COL);
     600         588 :   for(i=1;i<n;i++)
     601             :   {
     602         294 :     GEN R, Fi = gel(F,i);
     603         294 :     long di = degpol(Fi), j, r;
     604         294 :     if (dT % di) continue;
     605         294 :     R = FpX_factorff_irred(gel(F,i),T,p);
     606         294 :     r = lg(R);
     607        1190 :     for (j=1; j<r; j++,lfact++)
     608         896 :       gel(V,lfact) = Fq_to_FpXQ(Fq_neg(gmael(R,j, 2), T, p), T, p);
     609             :   }
     610         294 :   setlg(V,lfact);
     611         294 :   gen_sort_inplace(V, (void*) &cmp_RgX, &cmp_nodata, NULL);
     612         294 :   return V;
     613             : }
     614             : GEN
     615           0 : FpX_rootsff(GEN P, GEN T, GEN p)
     616             : {
     617           0 :   pari_sp av = avma;
     618           0 :   return gerepilecopy(av, FpX_rootsff_i(P, T, p));
     619             : }
     620             : 
     621             : static GEN
     622        1141 : Flx_factorff_i(GEN P, GEN T, ulong p)
     623             : {
     624        1141 :   GEN V, E, F = Flx_factor(P, p);
     625        1141 :   long i, lfact = 1, nmax = lgpol(P), n = lgcols(F);
     626             : 
     627        1141 :   V = cgetg(nmax,t_VEC);
     628        1141 :   E = cgetg(nmax,t_VECSMALL);
     629        4746 :   for(i=1;i<n;i++)
     630             :   {
     631        3605 :     GEN R = Flx_factorff_irred(gmael(F,1,i),T,p), e = gmael(F,2,i);
     632        3605 :     long j, r = lg(R);
     633        8708 :     for (j=1; j<r; j++,lfact++)
     634             :     {
     635        5103 :       gel(V,lfact) = gel(R,j);
     636        5103 :       gel(E,lfact) = e;
     637             :     }
     638             :   }
     639        1141 :   setlg(V,lfact);
     640        1141 :   setlg(E,lfact); return sort_factor_pol(mkvec2(V,E), cmp_Flx);
     641             : }
     642             : 
     643             : static long
     644        1701 : simpleff_to_nbfact(GEN F, long dT)
     645             : {
     646        1701 :   long i, l = lg(F), k = 0;
     647        1701 :   for (i = 1; i < l; i++) k += ugcd(uel(F,i), dT);
     648        1701 :   return k;
     649             : }
     650             : 
     651             : static long
     652        1701 : Flx_nbfactff(GEN P, GEN T, ulong p)
     653             : {
     654        1701 :   pari_sp av = avma;
     655        1701 :   GEN F = gel(Flx_degfact(P, p), 1);
     656        1701 :   long s = simpleff_to_nbfact(F, get_Flx_degree(T));
     657        1701 :   avma = av; return s;
     658             : }
     659             : 
     660             : /* dummy implementation */
     661             : static GEN
     662         252 : F2x_factorff_i(GEN P, GEN T)
     663             : {
     664         252 :   GEN M = Flx_factorff_i(F2x_to_Flx(P), F2x_to_Flx(T), 2);
     665         252 :   return mkvec2(FlxXC_to_F2xXC(gel(M,1)), gel(M,2));
     666             : }
     667             : 
     668             : /* not memory-clean */
     669             : static GEN
     670          56 : FpX_factorff_i(GEN P, GEN T, GEN p)
     671             : {
     672          56 :   GEN V, E, F = FpX_factor(P,p);
     673          56 :   long i, lfact = 1, nmax = lgpol(P), n = lgcols(F);
     674             : 
     675          56 :   V = cgetg(nmax,t_VEC);
     676          56 :   E = cgetg(nmax,t_VECSMALL);
     677         112 :   for(i=1;i<n;i++)
     678             :   {
     679          56 :     GEN R = FpX_factorff_irred(gmael(F,1,i),T,p), e = gmael(F,2,i);
     680          56 :     long j, r = lg(R);
     681         224 :     for (j=1; j<r; j++,lfact++)
     682             :     {
     683         168 :       gel(V,lfact) = gel(R,j);
     684         168 :       gel(E,lfact) = e;
     685             :     }
     686             :   }
     687          56 :   setlg(V,lfact);
     688          56 :   setlg(E,lfact); return sort_factor_pol(mkvec2(V,E), cmp_RgX);
     689             : }
     690             : 
     691             : static long
     692           0 : FpX_nbfactff(GEN P, GEN T, GEN p)
     693             : {
     694           0 :   pari_sp av = avma;
     695           0 :   GEN F = gel(FpX_degfact(P, p), 1);
     696           0 :   long s = simpleff_to_nbfact(F, get_FpX_degree(T));
     697           0 :   avma = av; return s;
     698             : }
     699             : 
     700             : GEN
     701           0 : FpX_factorff(GEN P, GEN T, GEN p)
     702             : {
     703           0 :   pari_sp av = avma;
     704           0 :   return gerepilecopy(av, FpX_factorff_i(P, T, p));
     705             : }
     706             : 
     707             : /***********************************************************************/
     708             : /**                                                                   **/
     709             : /**               Factorisation over finite fields                    **/
     710             : /**                                                                   **/
     711             : /***********************************************************************/
     712             : 
     713             : static GEN
     714       10817 : FlxqXQ_halfFrobenius_i(GEN a, GEN xp, GEN Xp, GEN S, GEN T, ulong p)
     715             : {
     716       10817 :   GEN ap2 = FlxqXQ_powu(a, p>>1, S, T, p);
     717       10817 :   GEN V = FlxqXQ_autsum(mkvec3(xp, Xp, ap2), get_Flx_degree(T), S, T, p);
     718       10817 :   return gel(V,3);
     719             : }
     720             : 
     721             : GEN
     722         292 : FlxqXQ_halfFrobenius(GEN a, GEN S, GEN T, ulong p)
     723             : {
     724         292 :   long vT = get_Flx_var(T);
     725             :   GEN xp, Xp;
     726         292 :   T = Flx_get_red(T, p);
     727         292 :   S = FlxqX_get_red(S, T, p);
     728         292 :   xp = Flx_Frobenius(T, p);
     729         292 :   Xp = FlxqXQ_powu(polx_FlxX(get_FlxqX_var(S), vT), p, S, T, p);
     730         292 :   return FlxqXQ_halfFrobenius_i(a, xp, Xp, S, T, p);
     731             : }
     732             : 
     733             : static GEN
     734        1120 : FpXQXQ_halfFrobenius_i(GEN a, GEN xp, GEN Xp, GEN S, GEN T, GEN p)
     735             : {
     736        1120 :   GEN ap2 = FpXQXQ_pow(a, shifti(p,-1), S, T, p);
     737        1120 :   GEN V = FpXQXQ_autsum(mkvec3(xp, Xp, ap2), get_FpX_degree(T), S, T, p);
     738        1120 :   return gel(V, 3);
     739             : }
     740             : 
     741             : GEN
     742         145 : FpXQXQ_halfFrobenius(GEN a, GEN S, GEN T, GEN p)
     743             : {
     744         145 :   pari_sp av = avma;
     745             :   GEN z;
     746         145 :   if (lgefint(p)==3)
     747             :   {
     748          73 :     ulong pp = p[2];
     749          73 :     long v = get_FpX_var(T);
     750          73 :     GEN Tp = ZXT_to_FlxT(T,pp), Sp = ZXXT_to_FlxXT(S, pp, v);
     751          73 :     z = FlxX_to_ZXX(FlxqXQ_halfFrobenius(ZXX_to_FlxX(a,pp,v),Sp,Tp,pp));
     752             :   }
     753             :   else
     754             :   {
     755             :     GEN xp, Xp;
     756          72 :     T = FpX_get_red(T, p);
     757          72 :     S = FpXQX_get_red(S, T, p);
     758          72 :     xp = FpX_Frobenius(T, p);
     759          72 :     Xp = FpXQXQ_pow(pol_x(get_FpXQX_var(S)), p, S, T, p);
     760          72 :     z = FpXQXQ_halfFrobenius_i(a, xp, Xp, S, T, p);
     761             :   }
     762         145 :   return gerepilecopy(av, z);
     763             : }
     764             : 
     765             : static GEN
     766       61600 : FlxqXQ_Frobenius(GEN xp, GEN Xp, GEN f, GEN T, ulong p)
     767             : {
     768       61600 :   ulong dT = get_Flx_degree(T), df = get_FlxqX_degree(f);
     769       61600 :   GEN q = powuu(p,dT);
     770       61600 :   if (expi(q) >= expu(dT)*(long)usqrt(df))
     771       61572 :     return gel(FlxqXQ_autpow(mkvec2(xp, Xp), dT, f, T, p), 2);
     772             :   else
     773          28 :     return FlxqXQ_pow(pol_x(get_FlxqX_var(f)), q, f, T, p);
     774             : }
     775             : 
     776             : GEN
     777        3062 : FlxqX_Frobenius(GEN S, GEN T, ulong p)
     778             : {
     779        3062 :   pari_sp av = avma;
     780        3062 :   GEN X  = polx_FlxX(get_FlxqX_var(S), get_Flx_var(T));
     781        3062 :   GEN xp = Flx_Frobenius(T, p);
     782        3062 :   GEN Xp = FlxqXQ_powu(X, p, S, T, p);
     783        3062 :   GEN Xq = FlxqXQ_Frobenius(xp, Xp, S, T, p);
     784        3062 :   return gerepilecopy(av, Xq);
     785             : }
     786             : 
     787             : static GEN
     788         231 : FpXQXQ_Frobenius(GEN xp, GEN Xp, GEN f, GEN T, GEN p)
     789             : {
     790         231 :   ulong dT = get_FpX_degree(T), df = get_FpXQX_degree(f);
     791         231 :   GEN q = powiu(p, dT);
     792         231 :   if (expi(q) >= expu(dT)*(long)usqrt(df))
     793         231 :     return gel(FpXQXQ_autpow(mkvec2(xp, Xp), dT, f, T, p), 2);
     794             :   else
     795           0 :     return FpXQXQ_pow(pol_x(get_FpXQX_var(f)), q, f, T, p);
     796             : }
     797             : 
     798             : GEN
     799         179 : FpXQX_Frobenius(GEN S, GEN T, GEN p)
     800             : {
     801         179 :   pari_sp av = avma;
     802         179 :   GEN X  = pol_x(get_FpXQX_var(S));
     803         179 :   GEN xp = FpX_Frobenius(T, p);
     804         179 :   GEN Xp = FpXQXQ_pow(X, p, S, T, p);
     805         179 :   GEN Xq = FpXQXQ_Frobenius(xp, Xp, S, T, p);
     806         179 :   return gerepilecopy(av, Xq);
     807             : }
     808             : 
     809             : static GEN
     810       70721 : F2xqXQ_Frobenius(GEN xp, GEN Xp, GEN f, GEN T)
     811             : {
     812       70721 :   ulong dT = get_F2x_degree(T), df = get_F2xqX_degree(f);
     813       70721 :   if (dT >= expu(dT)*usqrt(df))
     814       70714 :     return gel(F2xqXQ_autpow(mkvec2(xp, Xp), dT, f, T), 2);
     815             :   else
     816           7 :     return F2xqXQ_pow(pol_x(get_F2xqX_var(f)), int2n(dT), f, T);
     817             : }
     818             : 
     819             : static GEN
     820        2631 : FlxqX_split_part(GEN f, GEN T, ulong p)
     821             : {
     822        2631 :   long n = degpol(f);
     823        2631 :   GEN z, Xq, X = polx_FlxX(varn(f),get_Flx_var(T));
     824        2631 :   if (n <= 1) return f;
     825        2631 :   f = FlxqX_red(f, T, p);
     826        2631 :   Xq = FlxqX_Frobenius(f, T, p);
     827        2631 :   z = FlxX_sub(Xq, X , p);
     828        2631 :   return FlxqX_gcd(z, f, T, p);
     829             : }
     830             : 
     831             : GEN
     832         889 : FpXQX_split_part(GEN f, GEN T, GEN p)
     833             : {
     834         889 :   if(lgefint(p)==3)
     835             :   {
     836         881 :     ulong pp=p[2];
     837         881 :     GEN Tp = ZXT_to_FlxT(T, pp);
     838         881 :     GEN z = FlxqX_split_part(ZXX_to_FlxX(f, pp, get_Flx_var(T)), Tp, pp);
     839         881 :     return FlxX_to_ZXX(z);
     840             :   } else
     841             :   {
     842           8 :     long n = degpol(f);
     843           8 :     GEN z, X = pol_x(varn(f));
     844           8 :     if (n <= 1) return f;
     845           8 :     f = FpXQX_red(f, T, p);
     846           8 :     z = FpXQX_Frobenius(f, T, p);
     847           8 :     z = FpXX_sub(z, X , p);
     848           8 :     return FpXQX_gcd(z, f, T, p);
     849             :   }
     850             : }
     851             : 
     852             : long
     853         854 : FpXQX_nbroots(GEN f, GEN T, GEN p)
     854             : {
     855         854 :   pari_sp av = avma;
     856         854 :   GEN z = FpXQX_split_part(f, T, p);
     857         854 :   avma = av; return degpol(z);
     858             : }
     859             : 
     860             : long
     861       83090 : FqX_nbroots(GEN f, GEN T, GEN p)
     862       83090 : { return T ? FpXQX_nbroots(f, T, p): FpX_nbroots(f, p); }
     863             : 
     864             : long
     865        1750 : FlxqX_nbroots(GEN f, GEN T, ulong p)
     866             : {
     867        1750 :   pari_sp av = avma;
     868        1750 :   GEN z = FlxqX_split_part(f, T, p);
     869        1750 :   avma = av; return degpol(z);
     870             : }
     871             : 
     872             : static GEN
     873           0 : FlxqX_Berlekamp_ker_i(GEN Xq, GEN S, GEN T, ulong p)
     874             : {
     875           0 :   long j, N = get_FlxqX_degree(S);
     876           0 :   GEN Q  = FlxqXQ_matrix_pow(Xq,N,N,S,T,p);
     877           0 :   for (j=1; j<=N; j++)
     878           0 :     gcoeff(Q,j,j) = Flx_Fl_add(gcoeff(Q,j,j), p-1, p);
     879           0 :   return FlxqM_ker(Q,T,p);
     880             : }
     881             : 
     882             : static GEN
     883           0 : FpXQX_Berlekamp_ker_i(GEN Xq, GEN S, GEN T, GEN p)
     884             : {
     885           0 :   long j,N = get_FpXQX_degree(S);
     886           0 :   GEN Q  = FpXQXQ_matrix_pow(Xq,N,N,S,T,p);
     887           0 :   for (j=1; j<=N; j++)
     888           0 :     gcoeff(Q,j,j) = Fq_sub(gcoeff(Q,j,j), gen_1, T, p);
     889           0 :   return FqM_ker(Q,T,p);
     890             : }
     891             : 
     892             : static long
     893        2388 : isabsolutepol(GEN f)
     894             : {
     895        2388 :   long i, l = lg(f);
     896        4159 :   for(i=2; i<l; i++)
     897             :   {
     898        3809 :     GEN c = gel(f,i);
     899        3809 :     if (typ(c) == t_POL && degpol(c) > 0) return 0;
     900             :   }
     901         350 :   return 1;
     902             : }
     903             : 
     904             : #define set_irred(i) { if ((i)>ir) swap(t[i],t[ir]); ir++;}
     905             : 
     906             : static long
     907           0 : FlxqX_split_Berlekamp(GEN *t, GEN xp, GEN T, ulong p)
     908             : {
     909           0 :   GEN u = *t, a,b,vker,pol;
     910           0 :   long vu = varn(u), vT = get_Flx_var(T), dT = get_Flx_degree(T);
     911             :   long d, i, ir, L, la, lb;
     912             :   GEN S, X, Xp, Xq;
     913           0 :   if (degpol(u)==1) return 1;
     914           0 :   T = Flx_get_red(T, p);
     915           0 :   S = FlxqX_get_red(u, T, p);
     916           0 :   X  = polx_FlxX(get_FlxqX_var(S),get_Flx_var(T));
     917           0 :   Xp = FlxqXQ_powu(X, p, S, T, p);
     918           0 :   Xq = FlxqXQ_Frobenius(xp, Xp, S, T, p);
     919           0 :   vker = FlxqX_Berlekamp_ker_i(Xq, S, T, p);
     920           0 :   vker = Flm_to_FlxV(vker,u[1]);
     921           0 :   d = lg(vker)-1;
     922           0 :   ir = 0;
     923             :   /* t[i] irreducible for i < ir, still to be treated for i < L */
     924           0 :   for (L=1; L<d; )
     925             :   {
     926           0 :     pol= scalarpol(random_Flx(dT,vT,p),vu);
     927           0 :     for (i=2; i<=d; i++)
     928           0 :       pol = FlxX_add(pol, FlxqX_Flxq_mul(gel(vker,i),
     929             :                                          random_Flx(dT,vT,p), T, p), p);
     930           0 :     pol = FlxqX_red(pol,T,p);
     931           0 :     for (i=ir; i<L && L<d; i++)
     932             :     {
     933           0 :       a = t[i]; la = degpol(a);
     934           0 :       if (la == 1) { set_irred(i); }
     935             :       else
     936             :       {
     937           0 :         pari_sp av = avma;
     938           0 :         GEN S = FlxqX_get_red(a, T, p);
     939           0 :         b = FlxqX_rem(pol, S, T,p);
     940           0 :         if (degpol(b)<=0) { avma=av; continue; }
     941           0 :         b = FlxqXQ_halfFrobenius_i(b, xp, FlxqX_rem(Xp, S, T, p), S, T, p);
     942           0 :         if (degpol(b)<=0) { avma=av; continue; }
     943           0 :         gel(b,2) = Flxq_sub(gel(b,2), gen_1,T,p);
     944           0 :         b = FlxqX_gcd(a,b, T,p); lb = degpol(b);
     945           0 :         if (lb && lb < la)
     946             :         {
     947           0 :           b = FlxqX_normalize(b, T,p);
     948           0 :           t[L] = FlxqX_div(a,b,T,p);
     949           0 :           t[i]= b; L++;
     950             :         }
     951           0 :         else avma = av;
     952             :       }
     953             :     }
     954             :   }
     955           0 :   return d;
     956             : }
     957             : 
     958             : 
     959             : static long
     960           0 : FpXQX_split_Berlekamp(GEN *t, GEN T, GEN p)
     961             : {
     962           0 :   GEN u = *t, a, b, vker, pol;
     963             :   GEN X, xp, Xp, Xq, S;
     964           0 :   long vu = varn(u), vT = get_FpX_var(T), dT = get_FpX_degree(T);
     965             :   long d, i, ir, L, la, lb;
     966           0 :   if (degpol(u)==1) return 1;
     967           0 :   T = FpX_get_red(T, p);
     968           0 :   xp = FpX_Frobenius(T, p);
     969           0 :   S = FpXQX_get_red(u, T, p);
     970           0 :   X  = pol_x(get_FpXQX_var(S));
     971           0 :   Xp = FpXQXQ_pow(X, p, S, T, p);
     972           0 :   Xq = FpXQXQ_Frobenius(xp, Xp, S, T, p);
     973           0 :   vker = FpXQX_Berlekamp_ker_i(Xq, S, T, p);
     974           0 :   vker = RgM_to_RgXV(vker,vu);
     975           0 :   d = lg(vker)-1;
     976           0 :   ir = 0;
     977             :   /* t[i] irreducible for i < ir, still to be treated for i < L */
     978           0 :   for (L=1; L<d; )
     979             :   {
     980           0 :     pol= scalarpol(random_FpX(dT,vT,p),vu);
     981           0 :     for (i=2; i<=d; i++)
     982           0 :       pol = FqX_add(pol, FqX_Fq_mul(gel(vker,i),
     983             :                                     random_FpX(dT,vT,p), T, p), T, p);
     984           0 :     pol = FpXQX_red(pol,T,p);
     985           0 :     for (i=ir; i<L && L<d; i++)
     986             :     {
     987           0 :       a = t[i]; la = degpol(a);
     988           0 :       if (la == 1) { set_irred(i); }
     989             :       else
     990             :       {
     991           0 :         pari_sp av = avma;
     992           0 :         GEN S = FpXQX_get_red(a, T, p);
     993           0 :         b = FqX_rem(pol, S, T,p);
     994           0 :         if (degpol(b)<=0) { avma=av; continue; }
     995           0 :         b = FpXQXQ_halfFrobenius_i(b, xp, FpXQX_rem(Xp, S, T, p), S, T, p);
     996           0 :         if (degpol(b)<=0) { avma=av; continue; }
     997           0 :         gel(b,2) = Fq_sub(gel(b,2), gen_1,T,p);
     998           0 :         b = FqX_gcd(a,b, T,p); lb = degpol(b);
     999           0 :         if (lb && lb < la)
    1000             :         {
    1001           0 :           b = FpXQX_normalize(b, T,p);
    1002           0 :           t[L] = FqX_div(a,b,T,p);
    1003           0 :           t[i]= b; L++;
    1004             :         }
    1005           0 :         else avma = av;
    1006             :       }
    1007             :     }
    1008             :   }
    1009           0 :   return d;
    1010             : }
    1011             : 
    1012             : static GEN
    1013       11270 : F2xqX_quad_roots(GEN P, GEN T)
    1014             : {
    1015       11270 :   GEN b= gel(P,3), c = gel(P,2);
    1016       11270 :   if (lgpol(b))
    1017             :   {
    1018       10185 :     GEN z, d = F2xq_div(c, F2xq_sqr(b,T),T);
    1019       10185 :     if (F2xq_trace(d,T))
    1020        1015 :       return cgetg(1, t_COL);
    1021        9170 :     z = F2xq_mul(b, F2xq_Artin_Schreier(d, T), T);
    1022        9170 :     return mkcol2(z, F2x_add(b, z));
    1023             :   }
    1024             :   else
    1025        1085 :     return mkcol(F2xq_sqrt(c, T));
    1026             : }
    1027             : 
    1028             : /* Assume p>2 and x monic */
    1029             : static GEN
    1030       13533 : FlxqX_quad_roots(GEN x, GEN T, ulong p)
    1031             : {
    1032       13533 :   GEN s, D, nb, b = gel(x,3), c = gel(x,2);
    1033       13533 :   D = Flx_sub(Flxq_sqr(b,T,p), Flx_mulu(c,4,p), p);
    1034       13533 :   nb = Flx_neg(b,p);
    1035       13533 :   if (lgpol(D)==0)
    1036          42 :     return mkcol(Flx_halve(nb, p));
    1037       13491 :   s = Flxq_sqrt(D,T,p);
    1038       13491 :   if (!s) return cgetg(1, t_COL);
    1039       13043 :   s = Flx_halve(Flx_add(s,nb,p),p);
    1040       13043 :   return mkcol2(s, Flx_sub(nb,s,p));
    1041             : }
    1042             : 
    1043             : static GEN
    1044         677 : FpXQX_quad_roots(GEN x, GEN T, GEN p)
    1045             : {
    1046         677 :   GEN s, D, nb, b = gel(x,3), c = gel(x,2);
    1047         677 :   if (absequaliu(p, 2))
    1048             :   {
    1049           0 :     GEN f2 = ZXX_to_F2xX(x, get_FpX_var(T));
    1050           0 :     s = F2xqX_quad_roots(f2, ZX_to_F2x(get_FpX_mod(T)));
    1051           0 :     return F2xC_to_ZXC(s);
    1052             :   }
    1053         677 :   D = Fq_sub(Fq_sqr(b,T,p), Fq_Fp_mul(c,utoi(4),T,p), T,p);
    1054         677 :   nb = Fq_neg(b,T,p);
    1055         677 :   if (signe(D)==0)
    1056           0 :     return mkcol(Fq_to_FpXQ(Fq_halve(nb,T, p),T,p));
    1057         677 :   s = Fq_sqrt(D,T,p);
    1058         677 :   if (!s) return cgetg(1, t_COL);
    1059         663 :   s = Fq_halve(Fq_add(s,nb,T,p),T, p);
    1060         663 :   return mkcol2(Fq_to_FpXQ(s,T,p), Fq_to_FpXQ(Fq_sub(nb,s,T,p),T,p));
    1061             : }
    1062             : 
    1063             : static GEN
    1064        9268 : F2xqX_Frobenius_deflate(GEN S, GEN T)
    1065             : {
    1066        9268 :   GEN F = RgX_deflate(S, 2);
    1067        9268 :   long i, l = lg(F);
    1068       33173 :   for (i=2; i<l; i++)
    1069       23905 :     gel(F,i) = F2xq_sqrt(gel(F,i), T);
    1070        9268 :   return F;
    1071             : }
    1072             : 
    1073             : static GEN
    1074       16849 : F2xX_to_F2x(GEN x)
    1075             : {
    1076       16849 :   long l=nbits2lg(lgpol(x));
    1077       16849 :   GEN z=cgetg(l,t_VECSMALL);
    1078             :   long i,j,k;
    1079       16849 :   z[1]=x[1];
    1080       63042 :   for(i=2, k=1,j=BITS_IN_LONG;i<lg(x);i++,j++)
    1081             :   {
    1082       46193 :     if (j==BITS_IN_LONG)
    1083             :     {
    1084       16876 :       j=0; k++; z[k]=0;
    1085             :     }
    1086       46193 :     if (lgpol(gel(x,i)))
    1087       33684 :       z[k]|=1UL<<j;
    1088             :   }
    1089       16849 :   return F2x_renormalize(z,l);
    1090             : }
    1091             : 
    1092             : static GEN
    1093      206353 : F2xqX_easyroots(GEN f, GEN T)
    1094             : {
    1095      206353 :   if (F2xY_degreex(f) <= 0) return F2x_rootsff_i(F2xX_to_F2x(f), T);
    1096      189756 :   if (degpol(f)==1) return mkcol(constant_coeff(f));
    1097      154553 :   if (degpol(f)==2) return F2xqX_quad_roots(f,T);
    1098      143626 :   return NULL;
    1099             : }
    1100             : 
    1101             : /* Adapted from Shoup NTL */
    1102             : GEN
    1103       71449 : F2xqX_factor_squarefree(GEN f, GEN T)
    1104             : {
    1105       71449 :   pari_sp av = avma;
    1106             :   GEN r, t, v, tv;
    1107       71449 :   long i, q, n = degpol(f);
    1108       71449 :   GEN u = const_vec(n+1, pol1_F2xX(varn(f), get_F2x_var(T)));
    1109       80717 :   for(q = 1;;q *= 2)
    1110             :   {
    1111       89985 :     r = F2xqX_gcd(f, F2xX_deriv(f), T);
    1112       80717 :     if (degpol(r) == 0)
    1113             :     {
    1114       69755 :       gel(u, q) = F2xqX_normalize(f, T);
    1115       69755 :       break;
    1116             :     }
    1117       10962 :     t = F2xqX_div(f, r, T);
    1118       10962 :     if (degpol(t) > 0)
    1119             :     {
    1120             :       long j;
    1121       14994 :       for(j = 1;;j++)
    1122             :       {
    1123       19936 :         v = F2xqX_gcd(r, t, T);
    1124       14994 :         tv = F2xqX_div(t, v, T);
    1125       14994 :         if (degpol(tv) > 0)
    1126       11718 :           gel(u, j*q) = F2xqX_normalize(tv, T);
    1127       14994 :         if (degpol(v) <= 0) break;
    1128        4942 :         r = F2xqX_div(r, v, T);
    1129        4942 :         t = v;
    1130             :       }
    1131       10052 :       if (degpol(r) == 0) break;
    1132             :     }
    1133        9268 :     f = F2xqX_Frobenius_deflate(r, T);
    1134             :   }
    1135      418089 :   for (i = n; i; i--)
    1136      418089 :     if (degpol(gel(u,i))) break;
    1137       71449 :   setlg(u,i+1); return gerepilecopy(av, u);
    1138             : }
    1139             : 
    1140             : long
    1141          56 : F2xqX_ispower(GEN f, long k, GEN T, GEN *pt_r)
    1142             : {
    1143          56 :   pari_sp av = avma;
    1144             :   GEN lc, F;
    1145          56 :   long i, l, n = degpol(f), v = varn(f);
    1146          56 :   if (n % k) return 0;
    1147          56 :   lc = F2xq_sqrtn(leading_coeff(f), stoi(k), T, NULL);
    1148          56 :   if (!lc) { av = avma; return 0; }
    1149          56 :   F = F2xqX_factor_squarefree(f, T); l = lg(F)-1;
    1150        2030 :   for(i=1; i<=l; i++)
    1151        1981 :     if (i%k && degpol(gel(F,i))) { avma = av; return 0; }
    1152          49 :   if (pt_r)
    1153             :   {
    1154          49 :     GEN r = scalarpol(lc, v), s = pol1_F2xX(v, T[1]);
    1155        2023 :     for(i=l; i>=1; i--)
    1156             :     {
    1157        1974 :       if (i%k) continue;
    1158         406 :       s = F2xqX_mul(s, gel(F,i), T);
    1159         406 :       r = F2xqX_mul(r, s, T);
    1160             :     }
    1161          49 :     *pt_r = gerepileupto(av, r);
    1162           0 :   } else av = avma;
    1163          49 :   return 1;
    1164             : }
    1165             : 
    1166             : static void
    1167       50134 : F2xqX_roots_edf(GEN Sp, GEN xp, GEN Xp, GEN T, GEN V, long idx)
    1168             : {
    1169             :   pari_sp btop;
    1170       50134 :   long n = degpol(Sp);
    1171             :   GEN S, f, ff;
    1172       50134 :   long dT = get_F2x_degree(T);
    1173       50134 :   GEN R = F2xqX_easyroots(Sp, T);
    1174       50134 :   if (R)
    1175             :   {
    1176       47999 :     long i, l = lg(R)-1;
    1177      106477 :     for (i=0; i<l; i++)
    1178       58478 :       gel(V, idx+i) = gel(R,1+i);
    1179       47999 :     return;
    1180             :   }
    1181        2135 :   S = F2xqX_get_red(Sp, T);
    1182        2135 :   Xp = F2xqX_rem(Xp, S, T);
    1183        2135 :   btop = avma;
    1184             :   while (1)
    1185         504 :   {
    1186        2639 :     GEN a = random_F2xqX(degpol(Sp), varn(Sp), T);
    1187        2639 :     GEN R = gel(F2xqXQ_auttrace(mkvec3(xp, Xp, a), dT, S, T), 3);
    1188        2639 :     f = F2xqX_gcd(R, Sp, T);
    1189        2639 :     if (degpol(f) > 0 && degpol(f) < n) break;
    1190         504 :     avma = btop;
    1191             :   }
    1192        2135 :   f = gerepileupto(btop, F2xqX_normalize(f, T));
    1193        2135 :   ff = F2xqX_div(Sp, f, T);
    1194        2135 :   F2xqX_roots_edf(f, xp, Xp, T, V, idx);
    1195        2135 :   F2xqX_roots_edf(ff,xp, Xp, T, V, idx+degpol(f));
    1196             : }
    1197             : 
    1198             : static GEN
    1199       81004 : F2xqX_roots_ddf(GEN f, GEN xp, GEN T)
    1200             : {
    1201             :   GEN X, Xp, Xq, g, V;
    1202             :   long n;
    1203       81004 :   GEN R = F2xqX_easyroots(f, T);
    1204       81004 :   if (R) return R;
    1205       70392 :   X  = pol_x(varn(f));
    1206       70392 :   Xp = F2xqXQ_sqr(X, f, T);
    1207       70392 :   Xq = F2xqXQ_Frobenius(xp, Xp, f, T);
    1208       70392 :   g = F2xqX_gcd(F2xX_add(Xq, X), f, T);
    1209       70392 :   n = degpol(g);
    1210       70392 :   if (n==0) return cgetg(1, t_COL);
    1211       45864 :   g = F2xqX_normalize(g, T);
    1212       45864 :   V = cgetg(n+1,t_COL);
    1213       45864 :   F2xqX_roots_edf(g, xp, Xp, T, V, 1);
    1214       45864 :   return V;
    1215             : }
    1216             : static GEN
    1217       75222 : F2xqX_roots_i(GEN S, GEN T)
    1218             : {
    1219             :   GEN M;
    1220       75222 :   S = F2xqX_red(S, T);
    1221       75222 :   if (!signe(S)) pari_err_ROOTS0("F2xqX_roots");
    1222       75222 :   if (degpol(S)==0) return cgetg(1, t_COL);
    1223       75215 :   S = F2xqX_normalize(S, T);
    1224       75215 :   M = F2xqX_easyroots(S, T);
    1225       75215 :   if (!M)
    1226             :   {
    1227       71099 :     GEN xp = F2x_Frobenius(T);
    1228       71099 :     GEN F, V = F2xqX_factor_squarefree(S, T);
    1229       71099 :     long i, j, l = lg(V);
    1230       71099 :     F = cgetg(l, t_VEC);
    1231      155015 :     for (i=1, j=1; i < l; i++)
    1232       83916 :       if (degpol(gel(V,i)))
    1233       81004 :         gel(F, j++) = F2xqX_roots_ddf(gel(V,i), xp, T);
    1234       71099 :     setlg(F,j); M = shallowconcat1(F);
    1235             :   }
    1236       75215 :   gen_sort_inplace(M, (void*) &cmp_Flx, &cmp_nodata, NULL);
    1237       75215 :   return M;
    1238             : }
    1239             : 
    1240             : static GEN
    1241      176897 : FlxqX_easyroots(GEN f, GEN T, ulong p)
    1242             : {
    1243      176897 :   if (FlxY_degreex(f) <= 0) return Flx_rootsff_i(FlxX_to_Flx(f), T, p);
    1244      166117 :   if (degpol(f)==1) return mkcol(Flx_neg(constant_coeff(f), p));
    1245      138228 :   if (degpol(f)==2) return FlxqX_quad_roots(f,T,p);
    1246      125191 :   return NULL;
    1247             : }
    1248             : 
    1249             : static GEN
    1250         553 : FlxqX_invFrobenius(GEN xp, GEN T, ulong p)
    1251             : {
    1252         553 :   return Flxq_autpow(xp, get_Flx_degree(T)-1, T, p);
    1253             : }
    1254             : 
    1255             : static GEN
    1256         616 : FlxqX_Frobenius_deflate(GEN S, GEN ixp, GEN T, ulong p)
    1257             : {
    1258         616 :   GEN F = RgX_deflate(S, p);
    1259         616 :   long i, l = lg(F);
    1260         616 :   if (typ(ixp)==t_INT)
    1261           0 :     for (i=2; i<l; i++)
    1262           0 :       gel(F,i) = Flxq_pow(gel(F,i), ixp, T, p);
    1263             :   else
    1264             :   {
    1265         616 :     long n = brent_kung_optpow(get_Flx_degree(T)-1, l-2, 1);
    1266         616 :     GEN V = Flxq_powers(ixp, n, T, p);
    1267        5705 :     for (i=2; i<l; i++)
    1268        5089 :       gel(F,i) = Flx_FlxqV_eval(gel(F,i), V, T, p);
    1269             :   }
    1270         616 :   return F;
    1271             : }
    1272             : 
    1273             : /* Adapted from Shoup NTL */
    1274             : static GEN
    1275       59042 : FlxqX_factor_squarefree_i(GEN f, GEN xp, GEN T, ulong p)
    1276             : {
    1277       59042 :   pari_sp av = avma;
    1278             :   GEN r, t, v, tv;
    1279       59042 :   long i, q, n = degpol(f);
    1280       59042 :   GEN u = const_vec(n+1, pol1_FlxX(varn(f),get_Flx_var(T)));
    1281       59042 :   GEN ixp = NULL;
    1282       59658 :   for(q = 1;;q *= p)
    1283             :   {
    1284       60274 :     r = FlxqX_gcd(f, FlxX_deriv(f, p), T, p);
    1285       59658 :     if (degpol(r) == 0)
    1286             :     {
    1287       54877 :       gel(u, q) = FlxqX_normalize(f, T, p);
    1288       54877 :       break;
    1289             :     }
    1290        4781 :     t = FlxqX_div(f, r, T, p);
    1291        4781 :     if (degpol(t) > 0)
    1292             :     {
    1293             :       long j;
    1294        9667 :       for(j = 1;;j++)
    1295             :       {
    1296       14742 :         v = FlxqX_gcd(r, t, T, p);
    1297        9667 :         tv = FlxqX_div(t, v, T, p);
    1298        9667 :         if (degpol(tv) > 0)
    1299        8631 :           gel(u, j*q) = FlxqX_normalize(tv, T, p);
    1300        9667 :         if (degpol(v) <= 0) break;
    1301        5075 :         r = FlxqX_div(r, v, T, p);
    1302        5075 :         t = v;
    1303             :       }
    1304        4592 :       if (degpol(r) == 0) break;
    1305             :     }
    1306         616 :     if (!xp)   xp = Flx_Frobenius(T, p);
    1307         616 :     if (!ixp) ixp = FlxqX_invFrobenius(xp, T, p);
    1308         616 :     f = FlxqX_Frobenius_deflate(r, ixp, T, p);
    1309             :   }
    1310      321501 :   for (i = n; i; i--)
    1311      321501 :     if (degpol(gel(u,i))) break;
    1312       59042 :   setlg(u,i+1); return gerepilecopy(av, u);
    1313             : }
    1314             : 
    1315             : GEN
    1316          42 : FlxqX_factor_squarefree(GEN f, GEN T, ulong p)
    1317             : {
    1318          42 :   return FlxqX_factor_squarefree_i(f, NULL, T, p);
    1319             : }
    1320             : 
    1321             : long
    1322          98 : FlxqX_ispower(GEN f, ulong k, GEN T, ulong p, GEN *pt_r)
    1323             : {
    1324          98 :   pari_sp av = avma;
    1325             :   GEN lc, F;
    1326          98 :   long i, l, n = degpol(f), v = varn(f);
    1327          98 :   if (n % k) return 0;
    1328          98 :   lc = Flxq_sqrtn(leading_coeff(f), stoi(k), T, p, NULL);
    1329          98 :   if (!lc) { av = avma; return 0; }
    1330          98 :   F = FlxqX_factor_squarefree_i(f, NULL, T, p); l = lg(F)-1;
    1331        3038 :   for(i=1; i<=l; i++)
    1332        2954 :     if (i%k && degpol(gel(F,i))) { avma = av; return 0; }
    1333          84 :   if (pt_r)
    1334             :   {
    1335          84 :     GEN r = scalarpol(lc, v), s = pol1_FlxX(v, T[1]);
    1336        3024 :     for(i=l; i>=1; i--)
    1337             :     {
    1338        2940 :       if (i%k) continue;
    1339         602 :       s = FlxqX_mul(s, gel(F,i), T, p);
    1340         602 :       r = FlxqX_mul(r, s, T, p);
    1341             :     }
    1342          84 :     *pt_r = gerepileupto(av, r);
    1343           0 :   } else av = avma;
    1344          84 :   return 1;
    1345             : }
    1346             : 
    1347             : static GEN
    1348        8405 : FlxqX_roots_split(GEN Sp, GEN xp, GEN Xp, GEN S, GEN T, ulong p)
    1349             : {
    1350        8405 :   pari_sp btop = avma;
    1351        8405 :   long n = degpol(Sp);
    1352             :   GEN f;
    1353        8405 :   long vT = get_Flx_var(T), dT = get_Flx_degree(T);
    1354             :   pari_timer ti;
    1355        8405 :   if (DEBUGLEVEL >= 7) timer_start(&ti);
    1356             :   while (1)
    1357        1728 :   {
    1358       10133 :     GEN a = deg1pol(pol1_Flx(vT), random_Flx(dT, vT, p), varn(Sp));
    1359       10133 :     GEN R = FlxqXQ_halfFrobenius_i(a, xp, Xp, S, T, p);
    1360       10133 :     if (DEBUGLEVEL >= 7) timer_printf(&ti, "FlxqXQ_halfFrobenius");
    1361       10133 :     f = FlxqX_gcd(FlxX_Flx_sub(R, pol1_Flx(vT), p), Sp, T, p);
    1362       10133 :     if (degpol(f) > 0 && degpol(f) < n) break;
    1363        1728 :     avma = btop;
    1364             :   }
    1365        8405 :   return gerepileupto(btop, FlxqX_normalize(f, T, p));
    1366             : }
    1367             : 
    1368             : static void
    1369       50804 : FlxqX_roots_edf(GEN Sp, GEN xp, GEN Xp, GEN T, ulong p, GEN V, long idx)
    1370             : {
    1371             :   GEN S, f, ff;
    1372       50804 :   GEN R = FlxqX_easyroots(Sp, T, p);
    1373       50804 :   if (R)
    1374             :   {
    1375       42628 :     long i, l = lg(R)-1;
    1376       98353 :     for (i=0; i<l; i++)
    1377       55725 :       gel(V, idx+i) = gel(R,1+i);
    1378       42628 :     return;
    1379             :   }
    1380        8176 :   S  = FlxqX_get_red(Sp, T, p);
    1381        8176 :   Xp = FlxqX_rem(Xp, S, T, p);
    1382        8176 :   f  = FlxqX_roots_split(Sp, xp, Xp, S, T, p);
    1383        8176 :   ff = FlxqX_div(Sp, f, T, p);
    1384        8176 :   FlxqX_roots_edf(f, xp, Xp, T, p, V, idx);
    1385        8176 :   FlxqX_roots_edf(ff,xp, Xp, T, p, V, idx+degpol(f));
    1386             : }
    1387             : 
    1388             : static GEN
    1389       63054 : FlxqX_roots_ddf(GEN f, GEN xp, GEN T, ulong p)
    1390             : {
    1391             :   GEN X, Xp, Xq, g, V;
    1392             :   long n;
    1393       63054 :   GEN R = FlxqX_easyroots(f, T, p);
    1394       63054 :   if (R) return R;
    1395       58308 :   X  = pol_x(varn(f));
    1396       58308 :   Xp = FlxqXQ_powu(X, p, f, T, p);
    1397       58308 :   Xq = FlxqXQ_Frobenius(xp, Xp, f, T, p);
    1398       58308 :   g = FlxqX_gcd(FlxX_sub(Xq, X, p), f, T, p);
    1399       58308 :   n = degpol(g);
    1400       58308 :   if (n==0) return cgetg(1, t_COL);
    1401       34452 :   g = FlxqX_normalize(g, T, p);
    1402       34452 :   V = cgetg(n+1,t_COL);
    1403       34452 :   FlxqX_roots_edf(g, xp, Xp, T, p, V, 1);
    1404       34452 :   return V;
    1405             : }
    1406             : 
    1407             : /* do not handle p==2 */
    1408             : static GEN
    1409       63046 : FlxqX_roots_i(GEN S, GEN T, ulong p)
    1410             : {
    1411             :   GEN M;
    1412       63046 :   S = FlxqX_red(S, T, p);
    1413       63046 :   if (!signe(S)) pari_err_ROOTS0("FlxqX_roots");
    1414       63046 :   if (degpol(S)==0) return cgetg(1, t_COL);
    1415       63039 :   S = FlxqX_normalize(S, T, p);
    1416       63039 :   M = FlxqX_easyroots(S, T, p);
    1417       63039 :   if (!M)
    1418             :   {
    1419       58707 :     GEN xp = Flx_Frobenius(T, p);
    1420       58707 :     GEN F, V = FlxqX_factor_squarefree_i(S, xp, T, p);
    1421       58707 :     long i, j, l = lg(V);
    1422       58707 :     F = cgetg(l, t_VEC);
    1423      122398 :     for (i=1, j=1; i < l; i++)
    1424       63691 :       if (degpol(gel(V,i)))
    1425       63054 :         gel(F, j++) = FlxqX_roots_ddf(gel(V,i), xp, T, p);
    1426       58707 :     setlg(F,j); M = shallowconcat1(F);
    1427             :   }
    1428       63039 :   gen_sort_inplace(M, (void*) &cmp_Flx, &cmp_nodata, NULL);
    1429       63039 :   return M;
    1430             : }
    1431             : 
    1432             : static GEN
    1433        2310 : FpXQX_easyroots(GEN f, GEN T, GEN p)
    1434             : {
    1435        2310 :   if (isabsolutepol(f)) return FpX_rootsff_i(simplify_shallow(f), T, p);
    1436        2016 :   if (degpol(f)==1) return mkcol(Fq_to_FpXQ(Fq_neg(constant_coeff(f),T,p),T,p));
    1437        1597 :   if (degpol(f)==2) return FpXQX_quad_roots(f,T,p);
    1438         963 :   return NULL;
    1439             : }
    1440             : 
    1441             : /* Adapted from Shoup NTL */
    1442             : static GEN
    1443         157 : FpXQX_factor_Yun(GEN f, GEN T, GEN p)
    1444             : {
    1445         157 :   pari_sp av = avma;
    1446             :   GEN r, t, v, tv;
    1447         157 :   long j, n = degpol(f);
    1448         157 :   GEN u = const_vec(n+1, pol_1(varn(f)));
    1449         157 :   r = FpXQX_gcd(f, FpXX_deriv(f, p), T, p);
    1450         157 :   t = FpXQX_div(f, r, T, p);
    1451        1599 :   for (j = 1;;j++)
    1452             :   {
    1453        3041 :     v = FpXQX_gcd(r, t, T, p);
    1454        1599 :     tv = FpXQX_div(t, v, T, p);
    1455        1599 :     if (degpol(tv) > 0)
    1456         199 :       gel(u, j) = FpXQX_normalize(tv, T, p);
    1457        1599 :     if (degpol(v) <= 0) break;
    1458        1442 :     r = FpXQX_div(r, v, T, p);
    1459        1442 :     t = v;
    1460             :   }
    1461         157 :   setlg(u, j+1); return gerepilecopy(av, u);
    1462             : }
    1463             : 
    1464             : GEN
    1465           7 : FpXQX_factor_squarefree(GEN f, GEN T, GEN p)
    1466             : {
    1467           7 :   if (lgefint(p)==3)
    1468             :   {
    1469           0 :     pari_sp av = avma;
    1470           0 :     ulong pp = p[2];
    1471             :     GEN M;
    1472           0 :     long vT = get_FpX_var(T);
    1473           0 :     if (pp==2)
    1474             :     {
    1475           0 :       M = F2xqX_factor_squarefree(ZXX_to_F2xX(f, vT),  ZX_to_F2x(get_FpX_mod(T)));
    1476           0 :       return gerepileupto(av, F2xXC_to_ZXXC(M));
    1477             :     }
    1478           0 :     M = FlxqX_factor_squarefree(ZXX_to_FlxX(f, pp, vT),  ZXT_to_FlxT(T, pp), pp);
    1479           0 :     return gerepileupto(av, FlxXC_to_ZXXC(M));
    1480             :   }
    1481           7 :   return FpXQX_factor_Yun(f, T, p);
    1482             : }
    1483             : 
    1484             : long
    1485          98 : FpXQX_ispower(GEN f, ulong k, GEN T, GEN p, GEN *pt_r)
    1486             : {
    1487          98 :   pari_sp av = avma;
    1488             :   GEN lc, F;
    1489          98 :   long i, l, n = degpol(f), v = varn(f);
    1490          98 :   if (n % k) return 0;
    1491          98 :   if (lgefint(p)==3)
    1492             :   {
    1493          42 :     ulong pp = p[2];
    1494          42 :     GEN fp = ZXX_to_FlxX(f, pp, varn(T));
    1495          42 :     if (!FlxqX_ispower(fp, k, ZX_to_Flx(T, pp), pp, pt_r))
    1496           7 :     { avma = av; return 0; }
    1497          35 :     if (pt_r) *pt_r = gerepileupto(av, FlxX_to_ZXX(*pt_r));
    1498           0 :     else avma = av;
    1499          35 :     return 1;
    1500             :   }
    1501          56 :   lc = FpXQ_sqrtn(leading_coeff(f), stoi(k), T, p, NULL);
    1502          56 :   if (!lc) { av = avma; return 0; }
    1503          56 :   F = FpXQX_factor_Yun(f, T, p); l = lg(F)-1;
    1504        1533 :   for(i=1; i <= l; i++)
    1505        1484 :     if (i%k && degpol(gel(F,i))) { avma = av; return 0; }
    1506          49 :   if (pt_r)
    1507             :   {
    1508          49 :     GEN r = scalarpol(lc, v), s = pol_1(v);
    1509        1526 :     for(i=l; i>=1; i--)
    1510             :     {
    1511        1477 :       if (i%k) continue;
    1512         308 :       s = FpXQX_mul(s, gel(F,i), T, p);
    1513         308 :       r = FpXQX_mul(r, s, T, p);
    1514             :     }
    1515          49 :     *pt_r = gerepileupto(av, r);
    1516           0 :   } else av = avma;
    1517          49 :   return 1;
    1518             : }
    1519             : 
    1520             : long
    1521         210 : FqX_ispower(GEN f, ulong k, GEN T, GEN p, GEN *pt_r)
    1522         210 : { return T ? FpXQX_ispower(f, k, T, p, pt_r): FpX_ispower(f, k, p, pt_r); }
    1523             : 
    1524             : static GEN
    1525         926 : FpXQX_roots_split(GEN Sp, GEN xp, GEN Xp, GEN S, GEN T, GEN p)
    1526             : {
    1527         926 :   pari_sp btop = avma;
    1528         926 :   long n = degpol(Sp);
    1529             :   GEN f;
    1530         926 :   long vT = get_FpX_var(T), dT = get_FpX_degree(T);
    1531             :   pari_timer ti;
    1532         926 :   if (DEBUGLEVEL >= 7) timer_start(&ti);
    1533             :   while (1)
    1534         122 :   {
    1535        1048 :     GEN a = deg1pol(pol_1(vT), random_FpX(dT, vT, p), varn(Sp));
    1536        1048 :     GEN R = FpXQXQ_halfFrobenius_i(a, xp, Xp, S, T, p);
    1537        1048 :     if (DEBUGLEVEL >= 7) timer_printf(&ti, "FpXQXQ_halfFrobenius");
    1538        1048 :     f = FpXQX_gcd(FqX_Fq_sub(R, pol_1(vT), T, p), Sp, T, p);
    1539        1048 :     if (degpol(f) > 0 && degpol(f) < n) break;
    1540         122 :     avma = btop;
    1541             :   }
    1542         926 :   return gerepileupto(btop, FpXQX_normalize(f, T, p));
    1543             : }
    1544             : 
    1545             : static void
    1546        1836 : FpXQX_roots_edf(GEN Sp, GEN xp, GEN Xp, GEN T, GEN p, GEN V, long idx)
    1547             : {
    1548             :   GEN S, f, ff;
    1549        1836 :   GEN R = FpXQX_easyroots(Sp, T, p);
    1550        1836 :   if (R)
    1551             :   {
    1552         933 :     long i, l = lg(R)-1;
    1553        2391 :     for (i=0; i<l; i++)
    1554        1458 :       gel(V, idx+i) = gel(R,1+i);
    1555         933 :     return;
    1556             :   }
    1557         903 :   S  = FpXQX_get_red(Sp, T, p);
    1558         903 :   Xp = FpXQX_rem(Xp, S, T, p);
    1559         903 :   f  = FpXQX_roots_split(Sp, xp, Xp, S, T, p);
    1560         903 :   ff = FpXQX_div(Sp, f, T, p);
    1561         903 :   FpXQX_roots_edf(f, xp, Xp, T, p, V, idx);
    1562         903 :   FpXQX_roots_edf(ff,xp, Xp, T, p, V, idx+degpol(f));
    1563             : }
    1564             : 
    1565             : static GEN
    1566          30 : FpXQX_roots_ddf(GEN f, GEN xp, GEN T, GEN p)
    1567             : {
    1568             :   GEN X, Xp, Xq, g, V;
    1569             :   long n;
    1570          30 :   GEN R = FpXQX_easyroots(f, T, p);
    1571          30 :   if (R) return R;
    1572          30 :   X  = pol_x(varn(f));
    1573          30 :   Xp = FpXQXQ_pow(X, p, f, T, p);
    1574          30 :   Xq = FpXQXQ_Frobenius(xp, Xp, f, T, p);
    1575          30 :   g = FpXQX_gcd(FpXX_sub(Xq, X, p), f, T, p);
    1576          30 :   n = degpol(g);
    1577          30 :   if (n==0) return cgetg(1, t_COL);
    1578          30 :   g = FpXQX_normalize(g, T, p);
    1579          30 :   V = cgetg(n+1,t_COL);
    1580          30 :   FpXQX_roots_edf(g, xp, Xp, T, p, V, 1);
    1581          30 :   return V;
    1582             : }
    1583             : 
    1584             : /* do not handle small p */
    1585             : static GEN
    1586       20863 : FpXQX_roots_i(GEN S, GEN T, GEN p)
    1587             : {
    1588             :   GEN F, M;
    1589       20863 :   if (lgefint(p)==3)
    1590             :   {
    1591       20419 :     ulong pp = p[2];
    1592       20419 :     if (pp == 2)
    1593             :     {
    1594        3682 :       GEN V = F2xqX_roots_i(ZXX_to_F2xX(S,get_FpX_var(T)), ZX_to_F2x(get_FpX_mod(T)));
    1595        3682 :       return F2xC_to_ZXC(V);
    1596             :     }
    1597             :     else
    1598             :     {
    1599       16737 :       GEN V = FlxqX_roots_i(ZXX_to_FlxX(S,pp,get_FpX_var(T)), ZXT_to_FlxT(T,pp), pp);
    1600       16737 :       return FlxC_to_ZXC(V);
    1601             :     }
    1602             :   }
    1603         444 :   S = FpXQX_red(S, T, p);
    1604         444 :   if (!signe(S)) pari_err_ROOTS0("FpXQX_roots");
    1605         444 :   if (degpol(S)==0) return cgetg(1, t_COL);
    1606         444 :   S = FpXQX_normalize(S, T, p);
    1607         444 :   M = FpXQX_easyroots(S, T, p);
    1608         444 :   if (!M)
    1609             :   {
    1610          30 :     GEN xp = FpX_Frobenius(T, p);
    1611          30 :     GEN V = FpXQX_factor_Yun(S, T, p);
    1612          30 :     long i, j, l = lg(V);
    1613          30 :     F = cgetg(l, t_VEC);
    1614          60 :     for (i=1, j=1; i < l; i++)
    1615          30 :       if (degpol(gel(V,i)))
    1616          30 :         gel(F, j++) = FpXQX_roots_ddf(gel(V,i), xp, T, p);
    1617          30 :     setlg(F,j); M = shallowconcat1(F);
    1618             :   }
    1619         444 :   gen_sort_inplace(M, (void*) &cmp_RgX, &cmp_nodata, NULL);
    1620         444 :   return M;
    1621             : }
    1622             : 
    1623             : GEN
    1624       71540 : F2xqX_roots(GEN x, GEN T)
    1625             : {
    1626       71540 :   pari_sp av = avma;
    1627       71540 :   return gerepilecopy(av, F2xqX_roots_i(x, T));
    1628             : }
    1629             : 
    1630             : GEN
    1631       46309 : FlxqX_roots(GEN x, GEN T, ulong p)
    1632             : {
    1633       46309 :   pari_sp av = avma;
    1634       46309 :   if (p==2)
    1635             :   {
    1636           0 :     GEN V = F2xqX_roots_i(FlxX_to_F2xX(x), Flx_to_F2x(get_Flx_mod(T)));
    1637           0 :     return gerepileupto(av, F2xC_to_FlxC(V));
    1638             :   }
    1639       46309 :   return gerepilecopy(av, FlxqX_roots_i(x, T, p));
    1640             : }
    1641             : 
    1642             : GEN
    1643       20863 : FpXQX_roots(GEN x, GEN T, GEN p)
    1644             : {
    1645       20863 :   pari_sp av = avma;
    1646       20863 :   return gerepilecopy(av, FpXQX_roots_i(x, T, p));
    1647             : }
    1648             : 
    1649             : static GEN
    1650         469 : FE_concat(GEN F, GEN E, long l)
    1651             : {
    1652         469 :   setlg(E,l); E = shallowconcat1(E);
    1653         469 :   setlg(F,l); F = shallowconcat1(F); return mkvec2(F,E);
    1654             : }
    1655             : 
    1656             : static GEN
    1657         343 : F2xqX_factor_2(GEN f, GEN T)
    1658             : {
    1659         343 :   long v = varn(f), vT = get_F2x_var(T);
    1660         343 :   GEN r = F2xqX_quad_roots(f, T);
    1661         343 :   switch(lg(r)-1)
    1662             :   {
    1663             :   case 0:
    1664          14 :     return mkvec2(mkcolcopy(f), mkvecsmall(1));
    1665             :   case 1:
    1666         322 :     return mkvec2(mkcol(deg1pol_shallow(pol1_F2x(vT), gel(r,1), v)), mkvecsmall(2));
    1667             :   default: /* 2 */
    1668             :     {
    1669           7 :       GEN f1 = deg1pol_shallow(pol1_F2x(vT), gel(r,1), v);
    1670           7 :       GEN f2 = deg1pol_shallow(pol1_F2x(vT), gel(r,2), v);
    1671           7 :       GEN t = mkcol2(f1, f2), E = mkvecsmall2(1, 1);
    1672           7 :       sort_factor_pol(mkvec2(t, E), cmp_Flx);
    1673           7 :       return mkvec2(t, E);
    1674             :     }
    1675             :   }
    1676             : }
    1677             : 
    1678             : static GEN
    1679         496 : FlxqX_factor_2(GEN f, GEN T, ulong p)
    1680             : {
    1681         496 :   long v = varn(f), vT = get_Flx_var(T);
    1682         496 :   GEN r = FlxqX_quad_roots(f, T, p);
    1683         496 :   switch(lg(r)-1)
    1684             :   {
    1685             :   case 0:
    1686          49 :     return mkvec2(mkcolcopy(f), mkvecsmall(1));
    1687             :   case 1:
    1688          84 :     return mkvec2(mkcol(deg1pol_shallow(pol1_Flx(vT),
    1689          42 :                         Flx_neg(gel(r,1), p), v)), mkvecsmall(2));
    1690             :   default: /* 2 */
    1691             :     {
    1692         405 :       GEN f1 = deg1pol_shallow(pol1_Flx(vT), Flx_neg(gel(r,1), p), v);
    1693         405 :       GEN f2 = deg1pol_shallow(pol1_Flx(vT), Flx_neg(gel(r,2), p), v);
    1694         405 :       GEN t = mkcol2(f1, f2), E = mkvecsmall2(1, 1);
    1695         405 :       sort_factor_pol(mkvec2(t, E), cmp_Flx);
    1696         405 :       return mkvec2(t, E);
    1697             :     }
    1698             :   }
    1699             : }
    1700             : 
    1701             : static GEN
    1702          43 : FpXQX_factor_2(GEN f, GEN T, GEN p)
    1703             : {
    1704          43 :   long v = varn(f);
    1705          43 :   GEN r = FpXQX_quad_roots(f, T, p);
    1706          43 :   switch(lg(r)-1)
    1707             :   {
    1708             :   case 0:
    1709          14 :     return mkvec2(mkcolcopy(f), mkvecsmall(1));
    1710             :   case 1:
    1711           0 :     return mkvec2(mkcol(deg1pol_shallow(gen_1, Fq_neg(gel(r,1), T, p), v)),
    1712             :         mkvecsmall(2));
    1713             :   default: /* 2 */
    1714             :     {
    1715          29 :       GEN f1 = deg1pol_shallow(gen_1, Fq_neg(gel(r,1), T, p), v);
    1716          29 :       GEN f2 = deg1pol_shallow(gen_1, Fq_neg(gel(r,2), T, p), v);
    1717          29 :       GEN t = mkcol2(f1, f2), E = mkvecsmall2(1, 1);
    1718          29 :       sort_factor_pol(mkvec2(t, E), cmp_RgX);
    1719          29 :       return mkvec2(t, E);
    1720             :     }
    1721             :   }
    1722             : }
    1723             : 
    1724             : static GEN
    1725         329 : F2xqX_ddf_Shoup(GEN S, GEN Xq, GEN T)
    1726             : {
    1727         329 :   pari_sp av = avma;
    1728             :   GEN b, g, h, F, f, Sr, xq;
    1729             :   long i, j, n, v, vT, dT, bo, ro;
    1730             :   long B, l, m;
    1731             :   pari_timer ti;
    1732         329 :   n = get_F2xqX_degree(S); v = get_F2xqX_var(S);
    1733         329 :   vT = get_F2x_var(T); dT = get_F2x_degree(T);
    1734         329 :   if (n == 0) return cgetg(1, t_VEC);
    1735         329 :   if (n == 1) return mkvec(get_F2xqX_mod(S));
    1736         112 :   B = n/2;
    1737         112 :   l = usqrt(B);
    1738         112 :   m = (B+l-1)/l;
    1739         112 :   S = F2xqX_get_red(S, T);
    1740         112 :   b = cgetg(l+2, t_VEC);
    1741         112 :   gel(b, 1) = polx_F2xX(v, vT);
    1742         112 :   gel(b, 2) = Xq;
    1743         112 :   bo = brent_kung_optpow(n, l-1, 1);
    1744         112 :   ro = l<=1 ? 0: (bo-1)/(l-1) + ((n-1)/bo);
    1745         112 :   if (DEBUGLEVEL>=7) timer_start(&ti);
    1746         112 :   if (dT <= ro)
    1747           0 :     for (i = 3; i <= l+1; i++)
    1748           0 :       gel(b, i) = F2xqXQ_pow(gel(b, i-1), int2n(dT), S, T);
    1749             :   else
    1750             :   {
    1751         112 :     xq = F2xqXQ_powers(gel(b, 2), bo, S, T);
    1752         112 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"F2xqX_ddf_Shoup: xq baby");
    1753         112 :     for (i = 3; i <= l+1; i++)
    1754           0 :       gel(b, i) = F2xqX_F2xqXQV_eval(gel(b, i-1), xq, S, T);
    1755             :   }
    1756         112 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"F2xqX_ddf_Shoup: baby");
    1757         112 :   xq = F2xqXQ_powers(gel(b, l+1), brent_kung_optpow(n, m-1, 1), S, T);
    1758         112 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"F2xqX_ddf_Shoup: xq giant");
    1759         112 :   g = cgetg(m+1, t_VEC);
    1760         112 :   gel(g, 1) = gel(xq, 2);
    1761         133 :   for(i = 2; i <= m; i++)
    1762          21 :     gel(g, i) = F2xqX_F2xqXQV_eval(gel(g, i-1), xq, S, T);
    1763         112 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"F2xqX_ddf_Shoup: giant");
    1764         112 :   h = cgetg(m+1, t_VEC);
    1765         245 :   for (j = 1; j <= m; j++)
    1766             :   {
    1767         133 :     pari_sp av = avma;
    1768         133 :     GEN gj = gel(g, j);
    1769         133 :     GEN e = F2xX_add(gj, gel(b, 1));
    1770         133 :     for (i = 2; i <= l; i++)
    1771           0 :       e = F2xqXQ_mul(e, F2xX_add(gj, gel(b, i)), S, T);
    1772         133 :     gel(h, j) = gerepileupto(av, e);
    1773             :   }
    1774         112 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"F2xqX_ddf_Shoup: diff");
    1775         112 :   Sr = get_F2xqX_mod(S);
    1776         112 :   F = cgetg(m+1, t_VEC);
    1777         245 :   for (j = 1; j <= m; j++)
    1778             :   {
    1779         133 :     GEN u = F2xqX_gcd(Sr, gel(h,j), T);
    1780         133 :     if (degpol(u))
    1781             :     {
    1782          91 :       u = F2xqX_normalize(u, T);
    1783          91 :       Sr = F2xqX_div(Sr, u, T);
    1784             :     }
    1785         133 :     gel(F,j) = u;
    1786             :   }
    1787         112 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"F2xqX_ddf_Shoup: F");
    1788         112 :   f = const_vec(n, pol1_F2xX(v, vT));
    1789         245 :   for (j = 1; j <= m; j++)
    1790             :   {
    1791         133 :     GEN e = gel(F, j);
    1792         133 :     for (i=l-1; i >= 0; i--)
    1793             :     {
    1794         133 :       GEN u = F2xqX_gcd(e, F2xX_add(gel(g, j), gel(b, i+1)), T);
    1795         133 :       if (degpol(u))
    1796             :       {
    1797          91 :         gel(f, l*j-i) = u = F2xqX_normalize(u, T);
    1798          91 :         e = F2xqX_div(e, u, T);
    1799             :       }
    1800         133 :       if (!degpol(e)) break;
    1801             :     }
    1802             :   }
    1803         112 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"F2xqX_ddf_Shoup: f");
    1804         112 :   if (degpol(Sr)) gel(f, degpol(Sr)) = Sr;
    1805         112 :   return gerepilecopy(av, f);
    1806             : }
    1807             : 
    1808             : static GEN
    1809          91 : F2xqX_ddf_i(GEN f, GEN T, GEN X, GEN xp)
    1810             : {
    1811             :   GEN Xp, Xq;
    1812          91 :   if (!get_F2xqX_degree(f)) return cgetg(1,t_VEC);
    1813          42 :   f = F2xqX_get_red(f, T);
    1814          42 :   Xp = F2xqXQ_sqr(X, f, T);
    1815          42 :   Xq = F2xqXQ_Frobenius(xp, Xp, f, T);
    1816          42 :   return F2xqX_ddf_Shoup(f, Xq, T);
    1817             : }
    1818             : static void
    1819          42 : F2xqX_ddf_init(GEN *S, GEN *T, GEN *xp, GEN *X)
    1820             : {
    1821          42 :   *T = F2x_get_red(*T);
    1822          42 :   *S = F2xqX_normalize(get_F2xqX_mod(*S), *T);
    1823          42 :   *xp = F2x_Frobenius(*T);
    1824          42 :   *X  = polx_F2xX(get_F2xqX_var(*S), get_F2x_var(*T));
    1825          42 : }
    1826             : GEN
    1827          42 : F2xqX_degfact(GEN S, GEN T)
    1828             : {
    1829             :   GEN xp, X, V;
    1830             :   long i, l;
    1831          42 :   F2xqX_ddf_init(&S,&T,&xp,&X);
    1832          42 :   V = F2xqX_factor_squarefree(S, T); l = lg(V);
    1833          42 :   for (i=1; i < l; i++) gel(V,i) = F2xqX_ddf_i(gel(V,i), T, X, xp);
    1834          42 :   return vddf_to_simplefact(V, degpol(S));
    1835             : }
    1836             : GEN
    1837           0 : F2xqX_ddf(GEN S, GEN T)
    1838             : {
    1839             :   GEN xp, X;
    1840           0 :   F2xqX_ddf_init(&S,&T,&xp,&X);
    1841           0 :   return ddf_to_ddf2( F2xqX_ddf_i(S, T, X, xp) );
    1842             : }
    1843             : 
    1844             : static void
    1845         168 : F2xqX_edf_simple(GEN Sp, GEN xp, GEN Xp, GEN Sq, long d, GEN T, GEN V, long idx)
    1846             : {
    1847         168 :   long v = varn(Sp), n = degpol(Sp), r = n/d;
    1848             :   GEN S, f, ff;
    1849         168 :   long dT = get_F2x_degree(T);
    1850         168 :   if (r==1) { gel(V, idx) = Sp; return; }
    1851          63 :   S = F2xqX_get_red(Sp, T);
    1852          63 :   Xp = F2xqX_rem(Xp, S, T);
    1853          63 :   Sq = F2xqXQV_red(Sq, S, T);
    1854             :   while (1)
    1855          42 :   {
    1856         105 :     pari_sp btop = avma;
    1857             :     long l;
    1858         105 :     GEN w0 = random_F2xqX(n, v, T), g = w0;
    1859         133 :     for (l=1; l<d; l++) /* sum_{0<i<d} w^(q^i), result in (F_q)^r */
    1860          28 :       g = F2xX_add(w0, F2xqX_F2xqXQV_eval(g, Sq, S, T));
    1861         105 :     w0 = g;
    1862         588 :     for (l=1; l<dT; l++) /* sum_{0<i<k} w^(2^i), result in (F_2)^r */
    1863         483 :       g = F2xX_add(w0, F2xqXQ_sqr(g,S,T));
    1864         105 :     f = F2xqX_gcd(g, Sp, T);
    1865         105 :     if (degpol(f) > 0 && degpol(f) < n) break;
    1866          42 :     avma = btop;
    1867             :   }
    1868          63 :   f = F2xqX_normalize(f, T);
    1869          63 :   ff = F2xqX_div(Sp, f , T);
    1870          63 :   F2xqX_edf_simple(f, xp, Xp, Sq, d, T, V, idx);
    1871          63 :   F2xqX_edf_simple(ff, xp, Xp, Sq, d, T, V, idx+degpol(f)/d);
    1872             : }
    1873             : 
    1874             : static GEN
    1875         287 : F2xqX_factor_Shoup(GEN S, GEN xp, GEN T)
    1876             : {
    1877         287 :   long i, n, s = 0;
    1878             :   GEN X, Xp, Xq, Sq, D, V;
    1879         287 :   long vT = get_F2x_var(T);
    1880             :   pari_timer ti;
    1881         287 :   n = get_F2xqX_degree(S);
    1882         287 :   S = F2xqX_get_red(S, T);
    1883         287 :   if (DEBUGLEVEL>=6) timer_start(&ti);
    1884         287 :   X  = polx_F2xX(get_F2xqX_var(S), vT);
    1885         287 :   Xp = F2xqXQ_sqr(X, S, T);
    1886         287 :   Xq = F2xqXQ_Frobenius(xp, Xp, S, T);
    1887         287 :   Sq = F2xqXQ_powers(Xq, n-1, S, T);
    1888         287 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"F2xqX_Frobenius");
    1889         287 :   D = F2xqX_ddf_Shoup(S, Xq, T);
    1890         287 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"F2xqX_ddf_Shoup");
    1891         287 :   s = ddf_to_nbfact(D);
    1892         287 :   V = cgetg(s+1, t_COL);
    1893         770 :   for (i = 1, s = 1; i <= n; i++)
    1894             :   {
    1895         483 :     GEN Di = gel(D,i);
    1896         483 :     long ni = degpol(Di), ri = ni/i;
    1897         483 :     if (ni == 0) continue;
    1898         322 :     Di = F2xqX_normalize(Di, T);
    1899         322 :     if (ni == i) { gel(V, s++) = Di; continue; }
    1900          42 :     F2xqX_edf_simple(Di, xp, Xp, Sq, i, T, V, s);
    1901          42 :     if (DEBUGLEVEL>=6) timer_printf(&ti,"F2xqX_edf(%ld)",i);
    1902          42 :     s += ri;
    1903             :   }
    1904         287 :   return V;
    1905             : }
    1906             : 
    1907             : static GEN
    1908         896 : F2xqX_factor_Cantor(GEN f, GEN T)
    1909             : {
    1910             :   GEN xp, E, F, V;
    1911             :   long i, j, l;
    1912         896 :   T = F2x_get_red(T);
    1913         896 :   f = F2xqX_normalize(f, T);
    1914         896 :   switch(degpol(f))
    1915             :   {
    1916          14 :     case -1: retmkmat2(mkcol(f), mkvecsmall(1));
    1917          14 :     case 0: return trivial_fact();
    1918          21 :     case 1: retmkmat2(mkcol(f), mkvecsmall(1));
    1919         343 :     case 2: return F2xqX_factor_2(f, T);
    1920             :   }
    1921         504 :   if (F2xY_degreex(f) <= 0) return F2x_factorff_i(F2xX_to_F2x(f), T);
    1922         252 :   xp = F2x_Frobenius(T);
    1923         252 :   V = F2xqX_factor_squarefree(f, T);
    1924         252 :   l = lg(V);
    1925         252 :   F = cgetg(l, t_VEC);
    1926         252 :   E = cgetg(l, t_VEC);
    1927         917 :   for (i=1, j=1; i < l; i++)
    1928         665 :     if (degpol(gel(V,i)))
    1929             :     {
    1930         287 :       GEN Fj = F2xqX_factor_Shoup(gel(V,i), xp, T);
    1931         287 :       gel(F, j) = Fj;
    1932         287 :       gel(E, j) = const_vecsmall(lg(Fj)-1, i);
    1933         287 :       j++;
    1934             :     }
    1935         252 :   return sort_factor_pol(FE_concat(F,E,j), cmp_Flx);
    1936             : }
    1937             : 
    1938             : static GEN
    1939           0 : FlxqX_Berlekamp_i(GEN f, GEN T, ulong p)
    1940             : {
    1941           0 :   long lfact, d = degpol(f), j, k, lV;
    1942             :   GEN E, t, V, xp;
    1943           0 :   switch(d)
    1944             :   {
    1945           0 :     case -1: retmkmat2(mkcolcopy(f), mkvecsmall(1));
    1946           0 :     case 0: return trivial_fact();
    1947             :   }
    1948           0 :   T = Flx_get_red(T, p);
    1949           0 :   f = FlxqX_normalize(f, T, p);
    1950           0 :   if (FlxY_degreex(f) <= 0) return Flx_factorff_i(FlxX_to_Flx(f), T, p);
    1951           0 :   if (degpol(f)==2) return FlxqX_factor_2(f, T, p);
    1952           0 :   xp = Flx_Frobenius(T, p);
    1953           0 :   V = FlxqX_factor_squarefree_i(f, xp, T, p); lV = lg(V);
    1954             : 
    1955             :   /* to hold factors and exponents */
    1956           0 :   t = cgetg(d+1,t_VEC);
    1957           0 :   E = cgetg(d+1, t_VECSMALL);
    1958           0 :   lfact = 1;
    1959           0 :   for (k=1; k<lV ; k++)
    1960             :   {
    1961           0 :     if (degpol(gel(V,k))==0) continue;
    1962           0 :     gel(t,lfact) = FlxqX_normalize(gel(V, k), T,p);
    1963           0 :     d = FlxqX_split_Berlekamp(&gel(t,lfact), xp, T, p);
    1964           0 :     for (j = 0; j < d; j++) E[lfact+j] = k;
    1965           0 :     lfact += d;
    1966             :   }
    1967           0 :   setlg(t, lfact);
    1968           0 :   setlg(E, lfact);
    1969           0 :   return sort_factor_pol(mkvec2(t, E), cmp_Flx);
    1970             : }
    1971             : 
    1972             : static GEN
    1973           0 : FpXQX_Berlekamp_i(GEN f, GEN T, GEN p)
    1974             : {
    1975           0 :   long lfact, d = degpol(f), j, k, lV;
    1976             :   GEN E, t, V;
    1977           0 :   switch(d)
    1978             :   {
    1979           0 :     case -1: retmkmat2(mkcolcopy(f), mkvecsmall(1));
    1980           0 :     case 0: return trivial_fact();
    1981             :   }
    1982           0 :   T = FpX_get_red(T, p);
    1983           0 :   f = FpXQX_normalize(f, T, p);
    1984           0 :   if (isabsolutepol(f)) return FpX_factorff_i(simplify_shallow(f), T, p);
    1985           0 :   if (degpol(f)==2) return FpXQX_factor_2(f, T, p);
    1986           0 :   V = FpXQX_factor_Yun(f, T, p); lV = lg(V);
    1987             : 
    1988             :   /* to hold factors and exponents */
    1989           0 :   t = cgetg(d+1,t_VEC);
    1990           0 :   E = cgetg(d+1, t_VECSMALL);
    1991           0 :   lfact = 1;
    1992           0 :   for (k=1; k<lV ; k++)
    1993             :   {
    1994           0 :     if (degpol(gel(V,k))==0) continue;
    1995           0 :     gel(t,lfact) = FpXQX_normalize(gel(V, k), T,p);
    1996           0 :     d = FpXQX_split_Berlekamp(&gel(t,lfact), T, p);
    1997           0 :     for (j = 0; j < d; j++) E[lfact+j] = k;
    1998           0 :     lfact += d;
    1999             :   }
    2000           0 :   setlg(t, lfact);
    2001           0 :   setlg(E, lfact);
    2002           0 :   return sort_factor_pol(mkvec2(t, E), cmp_RgX);
    2003             : }
    2004             : 
    2005             : long
    2006         132 : FlxqX_ddf_degree(GEN S, GEN XP, GEN T, ulong p)
    2007             : {
    2008         132 :   pari_sp av = avma;
    2009             :   GEN X, b, g, xq, q;
    2010             :   long i, j, n, v, B, l, m, bo, ro;
    2011             :   pari_timer ti;
    2012             :   hashtable h;
    2013             : 
    2014         132 :   n = get_FlxqX_degree(S); v = get_FlxqX_var(S);
    2015         132 :   X = polx_FlxX(v,get_Flx_var(T));
    2016         132 :   if (gequal(X,XP)) return 1;
    2017         132 :   B = n/2;
    2018         132 :   l = usqrt(B);
    2019         132 :   m = (B+l-1)/l;
    2020         132 :   T = Flx_get_red(T, p);
    2021         132 :   S = FlxqX_get_red(S, T, p);
    2022         132 :   hash_init_GEN(&h, l+2, gequal, 1);
    2023         132 :   hash_insert_long(&h, X,  0);
    2024         132 :   hash_insert_long(&h, XP, 1);
    2025         132 :   bo = brent_kung_optpow(n, l-1, 1);
    2026         132 :   ro = l<=1 ? 0: (bo-1)/(l-1) + ((n-1)/bo);
    2027         132 :   q = powuu(p, get_Flx_degree(T));
    2028         132 :   if (DEBUGLEVEL>=7) timer_start(&ti);
    2029         132 :   b = XP;
    2030         132 :   if (expi(q) > ro)
    2031             :   {
    2032         132 :     xq = FlxqXQ_powers(b, brent_kung_optpow(n, l-1, 1),  S, T, p);
    2033         132 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_degree: xq baby");
    2034           0 :   } else xq = NULL;
    2035         312 :   for (i = 3; i <= l+1; i++)
    2036             :   {
    2037         200 :     b = xq ? FlxqX_FlxqXQV_eval(b, xq, S, T, p)
    2038         200 :            : FlxqXQ_pow(b, q, S, T, p);
    2039         200 :     if (gequal(b,X)) { avma = av; return i-1; }
    2040         180 :     hash_insert_long(&h, b, i-1);
    2041             :   }
    2042         112 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_degree: baby");
    2043         112 :   g = b;
    2044         112 :   xq = FlxqXQ_powers(g, brent_kung_optpow(n, m, 1),  S, T, p);
    2045         112 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_degree: xq giant");
    2046         280 :   for(i = 2; i <= m+1; i++)
    2047             :   {
    2048         252 :     g = FlxqX_FlxqXQV_eval(g, xq, S, T, p);
    2049         252 :     if (hash_haskey_long(&h, g, &j)) { avma=av; return l*i-j; }
    2050             :   }
    2051          28 :   avma = av; return n;
    2052             : }
    2053             : 
    2054             : static GEN
    2055         272 : FlxqX_ddf_Shoup(GEN S, GEN Xq, GEN T, ulong p)
    2056             : {
    2057         272 :   pari_sp av = avma;
    2058             :   GEN b, g, h, F, f, Sr, xq, q;
    2059             :   long i, j, n, v, vT, bo, ro;
    2060             :   long B, l, m;
    2061             :   pari_timer ti;
    2062         272 :   n = get_FlxqX_degree(S); v = get_FlxqX_var(S);
    2063         272 :   vT = get_Flx_var(T);
    2064         272 :   if (n == 0) return cgetg(1, t_VEC);
    2065         272 :   if (n == 1) return mkvec(get_FlxqX_mod(S));
    2066         181 :   B = n/2;
    2067         181 :   l = usqrt(B);
    2068         181 :   m = (B+l-1)/l;
    2069         181 :   S = FlxqX_get_red(S, T, p);
    2070         181 :   b = cgetg(l+2, t_VEC);
    2071         181 :   gel(b, 1) = polx_FlxX(v, vT);
    2072         181 :   gel(b, 2) = Xq;
    2073         181 :   bo = brent_kung_optpow(n, l-1, 1);
    2074         181 :   ro = l<=1 ? 0: (bo-1)/(l-1) + ((n-1)/bo);
    2075         181 :   q = powuu(p, get_Flx_degree(T));
    2076         181 :   if (DEBUGLEVEL>=7) timer_start(&ti);
    2077         181 :   if (expi(q) <= ro)
    2078          21 :     for (i = 3; i <= l+1; i++)
    2079          14 :       gel(b, i) = FlxqXQ_pow(gel(b, i-1), q, S, T, p);
    2080             :   else
    2081             :   {
    2082         174 :     xq = FlxqXQ_powers(gel(b, 2), bo, S, T, p);
    2083         174 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_Shoup: xq baby");
    2084         174 :     for (i = 3; i <= l+1; i++)
    2085           0 :       gel(b, i) = FlxqX_FlxqXQV_eval(gel(b, i-1), xq, S, T, p);
    2086             :   }
    2087         181 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_Shoup: baby");
    2088         181 :   xq = FlxqXQ_powers(gel(b, l+1), brent_kung_optpow(n, m-1, 1), S, T, p);
    2089         181 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_Shoup: xq giant");
    2090         181 :   g = cgetg(m+1, t_VEC);
    2091         181 :   gel(g, 1) = gel(xq, 2);
    2092         270 :   for(i = 2; i <= m; i++)
    2093          89 :     gel(g, i) = FlxqX_FlxqXQV_eval(gel(g, i-1), xq, S, T, p);
    2094         181 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_Shoup: giant");
    2095         181 :   h = cgetg(m+1, t_VEC);
    2096         451 :   for (j = 1; j <= m; j++)
    2097             :   {
    2098         270 :     pari_sp av = avma;
    2099         270 :     GEN gj = gel(g, j);
    2100         270 :     GEN e = FlxX_sub(gj, gel(b, 1), p);
    2101         340 :     for (i = 2; i <= l; i++)
    2102          70 :       e = FlxqXQ_mul(e, FlxX_sub(gj, gel(b, i), p), S, T, p);
    2103         270 :     gel(h, j) = gerepileupto(av, e);
    2104             :   }
    2105         181 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_Shoup: diff");
    2106         181 :   Sr = get_FlxqX_mod(S);
    2107         181 :   F = cgetg(m+1, t_VEC);
    2108         451 :   for (j = 1; j <= m; j++)
    2109             :   {
    2110         270 :     GEN u = FlxqX_gcd(Sr, gel(h, j), T, p);
    2111         270 :     if (degpol(u))
    2112             :     {
    2113         153 :       u = FlxqX_normalize(u, T, p);
    2114         153 :       Sr = FlxqX_div(Sr, u, T, p);
    2115             :     }
    2116         270 :     gel(F,j) = u;
    2117             :   }
    2118         181 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_Shoup: F");
    2119         181 :   f = const_vec(n, pol1_FlxX(v, vT));
    2120         451 :   for (j = 1; j <= m; j++)
    2121             :   {
    2122         270 :     GEN e = gel(F, j);
    2123         270 :     for (i=l-1; i >= 0; i--)
    2124             :     {
    2125         270 :       GEN u = FlxqX_gcd(e, FlxX_sub(gel(g, j), gel(b, i+1), p), T, p);
    2126         270 :       if (degpol(u))
    2127             :       {
    2128         153 :         gel(f, l*j-i) = u = FlxqX_normalize(u, T, p);
    2129         153 :         e = FlxqX_div(e, u, T, p);
    2130             :       }
    2131         270 :       if (!degpol(e)) break;
    2132             :     }
    2133             :   }
    2134         181 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_ddf_Shoup: f");
    2135         181 :   if (degpol(Sr)) gel(f, degpol(Sr)) = Sr;
    2136         181 :   return gerepilecopy(av, f);
    2137             : }
    2138             : 
    2139             : static GEN
    2140          42 : FlxqX_ddf_i(GEN f, GEN T, ulong p)
    2141             : {
    2142             :   GEN Xq;
    2143          42 :   if (!get_FlxqX_degree(f)) return cgetg(1, t_VEC);
    2144          42 :   f = FlxqX_get_red(f, T, p);
    2145          42 :   Xq = FlxqX_Frobenius(f, T, p);
    2146          42 :   return FlxqX_ddf_Shoup(f, Xq, T, p);
    2147             : }
    2148             : GEN
    2149           0 : FlxqX_ddf(GEN S, GEN T, ulong p)
    2150             : {
    2151           0 :   T = Flx_get_red(T, p);
    2152           0 :   S = FlxqX_normalize(get_FlxqX_mod(S), T, p);
    2153           0 :   return ddf_to_ddf2( FlxqX_ddf_i(S, T, p) );
    2154             : }
    2155             : GEN
    2156          42 : FlxqX_degfact(GEN S, GEN T, ulong p)
    2157             : {
    2158             :   GEN V;
    2159             :   long i, l;
    2160          42 :   T = Flx_get_red(T, p);
    2161          42 :   S = FlxqX_normalize(get_FlxqX_mod(S), T, p);
    2162          42 :   V = FlxqX_factor_squarefree(S, T, p); l = lg(V);
    2163          42 :   for (i=1; i < l; i++) gel(V,i) = FlxqX_ddf_i(gel(V,i), T, p);
    2164          42 :   return vddf_to_simplefact(V, degpol(S));
    2165             : }
    2166             : 
    2167             : static void
    2168         229 : FlxqX_edf_rec(GEN S, GEN xp, GEN Xp, GEN hp, GEN t, long d, GEN T, ulong p, GEN V, long idx)
    2169             : {
    2170         229 :   GEN Sp = get_FlxqX_mod(S);
    2171             :   GEN u1, u2, f1, f2;
    2172             :   GEN h;
    2173         229 :   h = FlxqX_get_red(hp, T, p);
    2174         229 :   t = FlxqX_rem(t, S, T, p);
    2175         229 :   Xp = FlxqX_rem(Xp, h, T, p);
    2176         229 :   u1 = FlxqX_roots_split(hp, xp, Xp, h, T, p);
    2177         229 :   f1 = FlxqX_gcd(FlxqX_FlxqXQ_eval(u1, t, S, T, p), Sp, T, p);
    2178         229 :   f1 = FlxqX_normalize(f1, T, p);
    2179         229 :   u2 = FlxqX_div(hp, u1, T, p);
    2180         229 :   f2 = FlxqX_div(Sp, f1, T, p);
    2181         229 :   if (degpol(u1)==1)
    2182         193 :     gel(V, idx) = f1;
    2183             :   else
    2184          36 :     FlxqX_edf_rec(FlxqX_get_red(f1, T, p), xp, Xp, u1, t, d, T, p, V, idx);
    2185         229 :   idx += degpol(f1)/d;
    2186         229 :   if (degpol(u2)==1)
    2187         154 :     gel(V, idx) = f2;
    2188             :   else
    2189          75 :     FlxqX_edf_rec(FlxqX_get_red(f2, T, p), xp, Xp, u2, t, d, T, p, V, idx);
    2190         229 : }
    2191             : 
    2192             : static void
    2193         118 : FlxqX_edf(GEN Sp, GEN xp, GEN Xp, GEN Xq, long d, GEN T, ulong p, GEN V, long idx)
    2194             : {
    2195         118 :   long n = degpol(Sp), r = n/d, vS = varn(Sp), vT = get_Flx_var(T);
    2196             :   GEN S, h, t;
    2197             :   pari_timer ti;
    2198         118 :   if (r==1) { gel(V, idx) = Sp; return; }
    2199         118 :   S = FlxqX_get_red(Sp, T, p);
    2200         118 :   Xp = FlxqX_rem(Xp, S, T, p);
    2201         118 :   Xq = FlxqX_rem(Xq, S, T, p);
    2202         118 :   if (DEBUGLEVEL>=7) timer_start(&ti);
    2203             :   do
    2204             :   {
    2205         132 :     GEN g = random_FlxqX(n, vS, T, p);
    2206         132 :     t = gel(FlxqXQ_auttrace(mkvec2(Xq, g), d, S, T, p), 2);
    2207         132 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_edf: FlxqXQ_auttrace");
    2208         132 :     h = FlxqXQ_minpoly(t, S, T, p);
    2209         132 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FlxqX_edf: FlxqXQ_minpoly");
    2210         132 :   } while (degpol(h) != r);
    2211         118 :   Xp = FlxqXQ_powu(polx_FlxX(vS, vT), p, h, T, p);
    2212         118 :   FlxqX_edf_rec(S, xp, Xp, h, t, d, T, p, V, idx);
    2213             : }
    2214             : 
    2215             : static void
    2216         357 : FlxqX_edf_simple(GEN Sp, GEN xp, GEN Xp, GEN Xq, long d, GEN T, ulong p, GEN V, long idx)
    2217             : {
    2218         357 :   long v = varn(Sp), n = degpol(Sp), r = n/d;
    2219             :   GEN S, f, ff;
    2220         357 :   long vT = get_Flx_var(T), dT = get_Flx_degree(T);
    2221         357 :   if (r==1) { gel(V, idx) = Sp; return; }
    2222         175 :   S = FlxqX_get_red(Sp, T, p);
    2223         175 :   Xp = FlxqX_rem(Xp, S, T, p);
    2224         175 :   Xq = FlxqX_rem(Xq, S, T, p);
    2225             :   while (1)
    2226           7 :   {
    2227         182 :     pari_sp btop = avma;
    2228             :     long i;
    2229         182 :     GEN g = random_FlxqX(n, v, T, p);
    2230         182 :     GEN t = gel(FlxqXQ_auttrace(mkvec2(Xq, g), d, S, T, p), 2);
    2231         182 :     if (lgpol(t) == 0) continue;
    2232         399 :     for(i=1; i<=10; i++)
    2233             :     {
    2234         392 :       pari_sp btop2 = avma;
    2235         392 :       GEN r = random_Flx(dT, vT, p);
    2236         392 :       GEN R = FlxqXQ_halfFrobenius_i(FlxX_Flx_add(t, r, p), xp, Xp, S, T, p);
    2237         392 :       f = FlxqX_gcd(FlxX_Flx_sub(R, pol1_Flx(vT), p), Sp, T, p);
    2238         392 :       if (degpol(f) > 0 && degpol(f) < n) break;
    2239         217 :       avma = btop2;
    2240             :     }
    2241         182 :     if (degpol(f) > 0 && degpol(f) < n) break;
    2242           7 :     avma = btop;
    2243             :   }
    2244         175 :   f = FlxqX_normalize(f, T, p);
    2245         175 :   ff = FlxqX_div(Sp, f , T, p);
    2246         175 :   FlxqX_edf_simple(f, xp, Xp, Xq, d, T, p, V, idx);
    2247         175 :   FlxqX_edf_simple(ff, xp, Xp, Xq, d, T, p, V, idx+degpol(f)/d);
    2248             : }
    2249             : 
    2250             : static GEN
    2251         230 : FlxqX_factor_Shoup(GEN S, GEN xp, GEN T, ulong p)
    2252             : {
    2253         230 :   long i, n, s = 0;
    2254             :   GEN X, Xp, Xq, D, V;
    2255         230 :   long dT = get_Flx_degree(T), vT = get_Flx_var(T);
    2256         230 :   long e = expi(powuu(p, dT));
    2257             :   pari_timer ti;
    2258         230 :   n = get_FlxqX_degree(S);
    2259         230 :   S = FlxqX_get_red(S, T, p);
    2260         230 :   if (DEBUGLEVEL>=6) timer_start(&ti);
    2261         230 :   X  = polx_FlxX(get_FlxqX_var(S), vT);
    2262         230 :   Xp = FlxqXQ_powu(X, p, S, T, p);
    2263         230 :   Xq = FlxqXQ_Frobenius(xp, Xp, S, T, p);
    2264         230 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FlxqX_Frobenius");
    2265         230 :   D = FlxqX_ddf_Shoup(S, Xq, T, p);
    2266         230 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FlxqX_ddf_Shoup");
    2267         230 :   s = ddf_to_nbfact(D);
    2268         230 :   V = cgetg(s+1, t_COL);
    2269         980 :   for (i = 1, s = 1; i <= n; i++)
    2270             :   {
    2271         750 :     GEN Di = gel(D,i);
    2272         750 :     long ni = degpol(Di), ri = ni/i;
    2273         750 :     if (ni == 0) continue;
    2274         251 :     Di = FlxqX_normalize(Di, T, p);
    2275         251 :     if (ni == i) { gel(V, s++) = Di; continue; }
    2276         125 :     if (ri <= e*expu(e))
    2277         118 :       FlxqX_edf(Di, xp, Xp, Xq, i, T, p, V, s);
    2278             :     else
    2279           7 :       FlxqX_edf_simple(Di, xp, Xp, Xq, i, T, p, V, s);
    2280         125 :     if (DEBUGLEVEL>=6) timer_printf(&ti,"FlxqX_edf(%ld)",i);
    2281         125 :     s += ri;
    2282             :   }
    2283         230 :   return V;
    2284             : }
    2285             : 
    2286             : static GEN
    2287        1643 : FlxqX_factor_Cantor(GEN f, GEN T, ulong p)
    2288             : {
    2289             :   GEN xp, E, F, V;
    2290             :   long i, j, l;
    2291        1643 :   T = Flx_get_red(T, p);
    2292        1643 :   f = FlxqX_normalize(f, T, p);
    2293        1643 :   switch(degpol(f))
    2294             :   {
    2295          21 :     case -1: retmkmat2(mkcol(f), mkvecsmall(1));
    2296          21 :     case 0: return trivial_fact();
    2297          21 :     case 1: retmkmat2(mkcol(f), mkvecsmall(1));
    2298         496 :     case 2: return FlxqX_factor_2(f, T, p);
    2299             :   }
    2300        1084 :   if (FlxY_degreex(f) <= 0) return Flx_factorff_i(FlxX_to_Flx(f), T, p);
    2301         195 :   xp = Flx_Frobenius(T, p);
    2302         195 :   V = FlxqX_factor_squarefree_i(f, xp, get_Flx_mod(T), p);
    2303         195 :   l = lg(V);
    2304         195 :   F = cgetg(l, t_VEC);
    2305         195 :   E = cgetg(l, t_VEC);
    2306         621 :   for (i=1, j=1; i < l; i++)
    2307         426 :     if (degpol(gel(V,i)))
    2308             :     {
    2309         230 :       GEN Fj = FlxqX_factor_Shoup(gel(V,i), xp, T, p);
    2310         230 :       gel(F, j) = Fj;
    2311         230 :       gel(E, j) = const_vecsmall(lg(Fj)-1, i);
    2312         230 :       j++;
    2313             :     }
    2314         195 :   return sort_factor_pol(FE_concat(F,E,j), cmp_Flx);
    2315             : }
    2316             : 
    2317             : long
    2318           0 : FlxqX_nbfact_Frobenius(GEN S, GEN Xq, GEN T, ulong p)
    2319             : {
    2320           0 :   pari_sp av = avma;
    2321           0 :   GEN u = get_FlxqX_mod(S);
    2322             :   long s;
    2323           0 :   if (FlxY_degreex(u) <= 0)
    2324           0 :     s = Flx_nbfactff(FlxX_to_Flx(u), T, p);
    2325             :   else
    2326           0 :     s = ddf_to_nbfact(FlxqX_ddf_Shoup(S, Xq, T, p));
    2327           0 :   avma = av; return s;
    2328             : }
    2329             : 
    2330             : long
    2331        1701 : FlxqX_nbfact(GEN S, GEN T, ulong p)
    2332             : {
    2333        1701 :   pari_sp av = avma;
    2334        1701 :   GEN u = get_FlxqX_mod(S);
    2335             :   long s;
    2336        1701 :   if (FlxY_degreex(u) <= 0)
    2337        1701 :     s = Flx_nbfactff(FlxX_to_Flx(u), T, p);
    2338             :   else
    2339           0 :     s = ddf_to_nbfact(FlxqX_ddf_Shoup(S, FlxqX_Frobenius(S, T, p), T, p));
    2340        1701 :   avma = av; return s;
    2341             : }
    2342             : 
    2343             : GEN
    2344         187 : FlxqX_factor(GEN x, GEN T, ulong p)
    2345             : {
    2346         187 :   pari_sp av = avma;
    2347         187 :   return gerepilecopy(av, FlxqX_factor_Cantor(x, T, p));
    2348             : }
    2349             : 
    2350             : GEN
    2351         133 : F2xqX_factor(GEN x, GEN T)
    2352             : {
    2353         133 :   pari_sp av = avma;
    2354         133 :   return gerepilecopy(av, F2xqX_factor_Cantor(x, T));
    2355             : }
    2356             : 
    2357             : long
    2358          50 : FpXQX_ddf_degree(GEN S, GEN XP, GEN T, GEN p)
    2359             : {
    2360          50 :   pari_sp av = avma;
    2361             :   GEN X, b, g, xq, q;
    2362             :   long i, j, n, v, B, l, m, bo, ro;
    2363             :   pari_timer ti;
    2364             :   hashtable h;
    2365             : 
    2366          50 :   n = get_FpXQX_degree(S); v = get_FpXQX_var(S);
    2367          50 :   X = pol_x(v);
    2368          50 :   if (gequal(X,XP)) return 1;
    2369          50 :   B = n/2;
    2370          50 :   l = usqrt(B);
    2371          50 :   m = (B+l-1)/l;
    2372          50 :   T = FpX_get_red(T, p);
    2373          50 :   S = FpXQX_get_red(S, T, p);
    2374          50 :   hash_init_GEN(&h, l+2, gequal, 1);
    2375          50 :   hash_insert_long(&h, X,  0);
    2376          50 :   hash_insert_long(&h, simplify_shallow(XP), 1);
    2377          50 :   bo = brent_kung_optpow(n, l-1, 1);
    2378          50 :   ro = l<=1 ? 0: (bo-1)/(l-1) + ((n-1)/bo);
    2379          50 :   q = powiu(p, get_FpX_degree(T));
    2380          50 :   if (DEBUGLEVEL>=7) timer_start(&ti);
    2381          50 :   b = XP;
    2382          50 :   if (expi(q) > ro)
    2383             :   {
    2384          50 :     xq = FpXQXQ_powers(b, brent_kung_optpow(n, l-1, 1),  S, T, p);
    2385          50 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_degree: xq baby");
    2386           0 :   } else xq = NULL;
    2387         143 :   for (i = 3; i <= l+1; i++)
    2388             :   {
    2389         101 :     b = xq ? FpXQX_FpXQXQV_eval(b, xq, S, T, p)
    2390         101 :            : FpXQXQ_pow(b, q, S, T, p);
    2391         101 :     if (gequal(b,X)) { avma = av; return i-1; }
    2392          93 :     hash_insert_long(&h, simplify_shallow(b), i-1);
    2393             :   }
    2394          42 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_degree: baby");
    2395          42 :   g = b;
    2396          42 :   xq = FpXQXQ_powers(g, brent_kung_optpow(n, m, 1),  S, T, p);
    2397          42 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_degree: xq giant");
    2398         105 :   for(i = 2; i <= m+1; i++)
    2399             :   {
    2400         105 :     g = FpXQX_FpXQXQV_eval(g, xq, S, T, p);
    2401         105 :     if (hash_haskey_long(&h, simplify_shallow(g), &j)) { avma=av; return l*i-j; }
    2402             :   }
    2403           0 :   avma = av; return n;
    2404             : }
    2405             : 
    2406             : static GEN
    2407          71 : FpXQX_ddf_Shoup(GEN S, GEN Xq, GEN T, GEN p)
    2408             : {
    2409          71 :   pari_sp av = avma;
    2410             :   GEN b, g, h, F, f, Sr, xq, q;
    2411             :   long i, j, n, v, bo, ro;
    2412             :   long B, l, m;
    2413             :   pari_timer ti;
    2414          71 :   n = get_FpXQX_degree(S); v = get_FpXQX_var(S);
    2415          71 :   if (n == 0) return cgetg(1, t_VEC);
    2416          71 :   if (n == 1) return mkvec(get_FpXQX_mod(S));
    2417          64 :   B = n/2;
    2418          64 :   l = usqrt(B);
    2419          64 :   m = (B+l-1)/l;
    2420          64 :   S = FpXQX_get_red(S, T, p);
    2421          64 :   b = cgetg(l+2, t_VEC);
    2422          64 :   gel(b, 1) = pol_x(v);
    2423          64 :   gel(b, 2) = Xq;
    2424          64 :   bo = brent_kung_optpow(n, l-1, 1);
    2425          64 :   ro = l<=1 ? 0: (bo-1)/(l-1) + ((n-1)/bo);
    2426          64 :   q = powiu(p, get_FpX_degree(T));
    2427          64 :   if (DEBUGLEVEL>=7) timer_start(&ti);
    2428          64 :   if (expi(q) <= ro)
    2429           0 :     for (i = 3; i <= l+1; i++)
    2430           0 :       gel(b, i) = FpXQXQ_pow(gel(b, i-1), q, S, T, p);
    2431             :   else
    2432             :   {
    2433          64 :     xq = FpXQXQ_powers(gel(b, 2), bo, S, T, p);
    2434          64 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_Shoup: xq baby");
    2435          85 :     for (i = 3; i <= l+1; i++)
    2436          21 :       gel(b, i) = FpXQX_FpXQXQV_eval(gel(b, i-1), xq, S, T, p);
    2437             :   }
    2438          64 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_Shoup: baby");
    2439          64 :   xq = FpXQXQ_powers(gel(b, l+1), brent_kung_optpow(n, m-1, 1), S, T, p);
    2440          64 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_Shoup: xq giant");
    2441          64 :   g = cgetg(m+1, t_VEC);
    2442          64 :   gel(g, 1) = gel(xq, 2);
    2443         108 :   for(i = 2; i <= m; i++)
    2444          44 :     gel(g, i) = FpXQX_FpXQXQV_eval(gel(g, i-1), xq, S, T, p);
    2445          64 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_Shoup: giant");
    2446          64 :   h = cgetg(m+1, t_VEC);
    2447         172 :   for (j = 1; j <= m; j++)
    2448             :   {
    2449         108 :     pari_sp av = avma;
    2450         108 :     GEN gj = gel(g, j);
    2451         108 :     GEN e = FpXX_sub(gj, gel(b, 1), p);
    2452         171 :     for (i = 2; i <= l; i++)
    2453          63 :       e = FpXQXQ_mul(e, FpXX_sub(gj, gel(b, i), p), S, T, p);
    2454         108 :     gel(h, j) = gerepileupto(av, e);
    2455             :   }
    2456          64 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_Shoup: diff");
    2457          64 :   Sr = get_FpXQX_mod(S);
    2458          64 :   F = cgetg(m+1, t_VEC);
    2459         172 :   for (j = 1; j <= m; j++)
    2460             :   {
    2461         108 :     GEN u = FpXQX_gcd(Sr, gel(h,j), T, p);
    2462         108 :     if (degpol(u))
    2463             :     {
    2464          78 :       u = FpXQX_normalize(u, T, p);
    2465          78 :       Sr = FpXQX_div(Sr, u, T, p);
    2466             :     }
    2467         108 :     gel(F,j) = u;
    2468             :   }
    2469          64 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_Shoup: F");
    2470          64 :   f = const_vec(n, pol_1(v));
    2471         172 :   for (j = 1; j <= m; j++)
    2472             :   {
    2473         108 :     GEN e = gel(F, j);
    2474         150 :     for (i=l-1; i >= 0; i--)
    2475             :     {
    2476         150 :       GEN u = FpXQX_gcd(e, FpXX_sub(gel(g, j), gel(b, i+1), p), T, p);
    2477         150 :       if (degpol(u))
    2478             :       {
    2479          99 :         gel(f, l*j-i) = u = FpXQX_normalize(u, T, p);
    2480          99 :         e = FpXQX_div(e, u, T, p);
    2481             :       }
    2482         150 :       if (!degpol(e)) break;
    2483             :     }
    2484             :   }
    2485          64 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_ddf_Shoup: f");
    2486          64 :   if (degpol(Sr)) gel(f, degpol(Sr)) = Sr;
    2487          64 :   return gerepilecopy(av, f);
    2488             : }
    2489             : 
    2490             : static GEN
    2491          49 : FpXQX_ddf_i(GEN f, GEN T, GEN p)
    2492             : {
    2493             :   GEN Xq;
    2494          49 :   if (!get_FpXQX_degree(f)) return cgetg(1,t_VEC);
    2495          49 :   f = FpXQX_get_red(f, T, p);
    2496          49 :   Xq = FpXQX_Frobenius(f, T, p);
    2497          49 :   return FpXQX_ddf_Shoup(f, Xq, T, p);
    2498             : }
    2499             : 
    2500             : static GEN
    2501           7 : FpXQX_ddf_raw(GEN f, GEN T, GEN p)
    2502             : {
    2503           7 :   if (lgefint(p)==3)
    2504             :   {
    2505           0 :     ulong pp = p[2];
    2506             :     GEN M;
    2507           0 :     long vT = get_FpX_var(T);
    2508           0 :     if (pp==2)
    2509             :     {
    2510           0 :       M = F2xqX_ddf(ZXX_to_F2xX(f, vT),  ZX_to_F2x(get_FpX_mod(T)));
    2511           0 :       return mkvec2(F2xXC_to_ZXXC(gel(M,1)), gel(M,2));
    2512             :     }
    2513           0 :     M = FlxqX_ddf(ZXX_to_FlxX(f, pp, vT),  ZXT_to_FlxT(T, pp), pp);
    2514           0 :     return mkvec2(FlxXC_to_ZXXC(gel(M,1)), gel(M,2));
    2515             :   }
    2516           7 :   T = FpX_get_red(T, p);
    2517           7 :   f = FpXQX_normalize(get_FpXQX_mod(f), T, p);
    2518           7 :   return ddf_to_ddf2( FpXQX_ddf_i(f, T, p) );
    2519             : }
    2520             : 
    2521             : GEN
    2522           7 : FpXQX_ddf(GEN x, GEN T, GEN p)
    2523           7 : { pari_sp av = avma; return gerepilecopy(av, FpXQX_ddf_raw(x,T,p)); }
    2524             : 
    2525             : static GEN
    2526          42 : FpXQX_degfact_raw(GEN f, GEN T, GEN p)
    2527             : {
    2528             :   GEN V;
    2529             :   long i,l;
    2530          42 :   if (lgefint(p)==3)
    2531             :   {
    2532           0 :     ulong pp = p[2];
    2533           0 :     long vT = get_FpX_var(T);
    2534           0 :     if (pp==2)
    2535           0 :       return F2xqX_degfact(ZXX_to_F2xX(f, vT),  ZX_to_F2x(get_FpX_mod(T)));
    2536             :     else
    2537           0 :       return FlxqX_degfact(ZXX_to_FlxX(f, pp, vT),  ZXT_to_FlxT(T, pp), pp);
    2538             :   }
    2539          42 :   T = FpX_get_red(T, p);
    2540          42 :   f = FpXQX_normalize(get_FpXQX_mod(f), T, p);
    2541          42 :   V = FpXQX_factor_Yun(f, T, p); l = lg(V);
    2542          42 :   for (i=1; i < l; i++) gel(V,i) = FpXQX_ddf_i(gel(V,i), T, p);
    2543          42 :   return vddf_to_simplefact(V, degpol(f));
    2544             : }
    2545             : 
    2546             : GEN
    2547          42 : FpXQX_degfact(GEN x, GEN T, GEN p)
    2548          42 : { pari_sp av = avma; return gerepilecopy(av, FpXQX_degfact_raw(x,T,p)); }
    2549             : 
    2550             : static void
    2551          23 : FpXQX_edf_rec(GEN S, GEN xp, GEN Xp, GEN hp, GEN t, long d, GEN T, GEN p, GEN V, long idx)
    2552             : {
    2553          23 :   GEN Sp = get_FpXQX_mod(S);
    2554             :   GEN u1, u2, f1, f2;
    2555             :   GEN h;
    2556          23 :   h = FpXQX_get_red(hp, T, p);
    2557          23 :   t = FpXQX_rem(t, S, T, p);
    2558          23 :   Xp = FpXQX_rem(Xp, h, T, p);
    2559          23 :   u1 = FpXQX_roots_split(hp, xp, Xp, h, T, p);
    2560          23 :   f1 = FpXQX_gcd(FpXQX_FpXQXQ_eval(u1, t, S, T, p), Sp, T, p);
    2561          23 :   f1 = FpXQX_normalize(f1, T, p);
    2562          23 :   u2 = FpXQX_div(hp, u1, T, p);
    2563          23 :   f2 = FpXQX_div(Sp, f1, T, p);
    2564          23 :   if (degpol(u1)==1)
    2565          23 :     gel(V, idx) = f1;
    2566             :   else
    2567           0 :     FpXQX_edf_rec(FpXQX_get_red(f1, T, p), xp, Xp, u1, t, d, T, p, V, idx);
    2568          23 :   idx += degpol(f1)/d;
    2569          23 :   if (degpol(u2)==1)
    2570           8 :     gel(V, idx) = f2;
    2571             :   else
    2572          15 :     FpXQX_edf_rec(FpXQX_get_red(f2, T, p), xp, Xp, u2, t, d, T, p, V, idx);
    2573          23 : }
    2574             : 
    2575             : static void
    2576           8 : FpXQX_edf(GEN Sp, GEN xp, GEN Xp, GEN Xq, long d, GEN T, GEN p, GEN V, long idx)
    2577             : {
    2578           8 :   long n = degpol(Sp), r = n/d, vS = varn(Sp);
    2579             :   GEN S, h, t;
    2580             :   pari_timer ti;
    2581           8 :   if (r==1) { gel(V, idx) = Sp; return; }
    2582           8 :   S = FpXQX_get_red(Sp, T, p);
    2583           8 :   Xp = FpXQX_rem(Xp, S, T, p);
    2584           8 :   Xq = FpXQX_rem(Xq, S, T, p);
    2585           8 :   if (DEBUGLEVEL>=7) timer_start(&ti);
    2586             :   do
    2587             :   {
    2588           8 :     GEN g = random_FpXQX(n, vS, T, p);
    2589           8 :     t = gel(FpXQXQ_auttrace(mkvec2(Xq, g), d, S, T, p), 2);
    2590           8 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_edf: FpXQXQ_auttrace");
    2591           8 :     h = FpXQXQ_minpoly(t, S, T, p);
    2592           8 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FpXQX_edf: FpXQXQ_minpoly");
    2593           8 :   } while (degpol(h) != r);
    2594           8 :   Xp = FpXQXQ_pow(pol_x(vS), p, h, T, p);
    2595           8 :   FpXQX_edf_rec(S, xp, Xp, h, t, d, T, p, V, idx);
    2596             : }
    2597             : 
    2598             : static void
    2599           0 : FpXQX_edf_simple(GEN Sp, GEN xp, GEN Xp, GEN Xq, long d, GEN T, GEN p, GEN V, long idx)
    2600             : {
    2601           0 :   long v = varn(Sp), n = degpol(Sp), r = n/d;
    2602             :   GEN S, f, ff;
    2603           0 :   long vT = get_FpX_var(T), dT = get_FpX_degree(T);
    2604           0 :   if (r==1) { gel(V, idx) = Sp; return; }
    2605           0 :   S = FpXQX_get_red(Sp, T, p);
    2606           0 :   Xp = FpXQX_rem(Xp, S, T, p);
    2607           0 :   Xq = FpXQX_rem(Xq, S, T, p);
    2608             :   while (1)
    2609           0 :   {
    2610           0 :     pari_sp btop = avma;
    2611             :     long i;
    2612           0 :     GEN g = random_FpXQX(n, v, T, p);
    2613           0 :     GEN t = gel(FpXQXQ_auttrace(mkvec2(Xq, g), d, S, T, p), 2);
    2614           0 :     if (lgpol(t) == 0) continue;
    2615           0 :     for(i=1; i<=10; i++)
    2616             :     {
    2617           0 :       pari_sp btop2 = avma;
    2618           0 :       GEN r = random_FpX(dT, vT, p);
    2619           0 :       GEN R = FpXQXQ_halfFrobenius_i(FqX_Fq_add(t, r, T, p), xp, Xp, S, T, p);
    2620           0 :       f = FpXQX_gcd(FqX_Fq_add(R, gen_m1, T, p), Sp, T, p);
    2621           0 :       if (degpol(f) > 0 && degpol(f) < n) break;
    2622           0 :       avma = btop2;
    2623             :     }
    2624           0 :     if (degpol(f) > 0 && degpol(f) < n) break;
    2625           0 :     avma = btop;
    2626             :   }
    2627           0 :   f = FpXQX_normalize(f, T, p);
    2628           0 :   ff = FpXQX_div(Sp, f , T, p);
    2629           0 :   FpXQX_edf_simple(f,  xp, Xp, Xq, d, T, p, V, idx);
    2630           0 :   FpXQX_edf_simple(ff, xp, Xp, Xq, d, T, p, V, idx+degpol(f)/d);
    2631             : }
    2632             : 
    2633             : static GEN
    2634          22 : FpXQX_factor_Shoup(GEN S, GEN xp, GEN T, GEN p)
    2635             : {
    2636          22 :   long i, n, s = 0, dT = get_FpX_degree(T), e = expi(powiu(p, dT));
    2637             :   GEN X, Xp, Xq, D, V;
    2638             :   pari_timer ti;
    2639          22 :   n = get_FpXQX_degree(S);
    2640          22 :   S = FpXQX_get_red(S, T, p);
    2641          22 :   if (DEBUGLEVEL>=6) timer_start(&ti);
    2642          22 :   X  = pol_x(get_FpXQX_var(S));
    2643          22 :   Xp = FpXQXQ_pow(X, p, S, T, p);
    2644          22 :   Xq = FpXQXQ_Frobenius(xp, Xp, S, T, p);
    2645          22 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FpXQX_Frobenius");
    2646          22 :   D = FpXQX_ddf_Shoup(S, Xq, T, p);
    2647          22 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FpXQX_ddf_Shoup");
    2648          22 :   s = ddf_to_nbfact(D);
    2649          22 :   V = cgetg(s+1, t_COL);
    2650         140 :   for (i = 1, s = 1; i <= n; i++)
    2651             :   {
    2652         118 :     GEN Di = gel(D,i);
    2653         118 :     long ni = degpol(Di), ri = ni/i;
    2654         118 :     if (ni == 0) continue;
    2655          50 :     Di = FpXQX_normalize(Di, T, p);
    2656          50 :     if (ni == i) { gel(V, s++) = Di; continue; }
    2657           8 :     if (ri <= e*expu(e))
    2658           8 :       FpXQX_edf(Di, xp, Xp, Xq, i, T, p, V, s);
    2659             :     else
    2660           0 :       FpXQX_edf_simple(Di, xp, Xp, Xq, i, T, p, V, s);
    2661           8 :     if (DEBUGLEVEL>=6) timer_printf(&ti,"FpXQX_edf(%ld)",i);
    2662           8 :     s += ri;
    2663             :   }
    2664          22 :   return V;
    2665             : }
    2666             : 
    2667             : static GEN
    2668         170 : FpXQX_factor_Cantor(GEN f, GEN T, GEN p)
    2669             : {
    2670             :   GEN xp, E, F, V;
    2671             :   long i, j, l;
    2672         170 :   T = FpX_get_red(T, p);
    2673         170 :   f = FpXQX_normalize(f, T, p);
    2674         170 :   switch(degpol(f))
    2675             :   {
    2676          14 :     case -1: retmkmat2(mkcol(f), mkvecsmall(1));
    2677          14 :     case 0: return trivial_fact();
    2678          21 :     case 1: retmkmat2(mkcol(f), mkvecsmall(1));
    2679          43 :     case 2: return FpXQX_factor_2(f, T, p);
    2680             :   }
    2681          78 :   if (isabsolutepol(f)) return FpX_factorff_i(simplify_shallow(f), T, p);
    2682          22 :   xp = FpX_Frobenius(T, p);
    2683          22 :   V = FpXQX_factor_Yun(f, T, p);
    2684          22 :   l = lg(V);
    2685          22 :   F = cgetg(l, t_VEC);
    2686          22 :   E = cgetg(l, t_VEC);
    2687          44 :   for (i=1, j=1; i < l; i++)
    2688          22 :     if (degpol(gel(V,i)))
    2689             :     {
    2690          22 :       GEN Fj = FpXQX_factor_Shoup(gel(V,i), xp, T, p);
    2691          22 :       gel(E,j) = const_vecsmall(lg(Fj)-1, i);
    2692          22 :       gel(F,j) = Fj; j++;
    2693             :     }
    2694          22 :   return sort_factor_pol(FE_concat(F,E,j), cmp_RgX);
    2695             : }
    2696             : 
    2697             : long
    2698           0 : FpXQX_nbfact_Frobenius(GEN S, GEN Xq, GEN T, GEN p)
    2699             : {
    2700           0 :   pari_sp av = avma;
    2701           0 :   GEN u = get_FpXQX_mod(S);
    2702             :   long s;
    2703           0 :   if (lgefint(p)==3)
    2704             :   {
    2705           0 :     ulong pp = p[2];
    2706           0 :     long vT = get_FpX_var(T);
    2707           0 :     GEN Sp = ZXXT_to_FlxXT(S,pp,vT), Xqp = ZXX_to_FlxX(Xq,pp,vT);
    2708           0 :     s = FlxqX_nbfact_Frobenius(Sp, Xqp, ZXT_to_FlxT(T,pp), pp);
    2709             :   }
    2710           0 :   else if (isabsolutepol(u))
    2711           0 :     s = FpX_nbfactff(simplify_shallow(u), T, p);
    2712             :   else
    2713           0 :     s = ddf_to_nbfact(FpXQX_ddf_Shoup(S, Xq, T, p));
    2714           0 :   avma = av; return s;
    2715             : }
    2716             : 
    2717             : long
    2718           0 : FpXQX_nbfact(GEN S, GEN T, GEN p)
    2719             : {
    2720           0 :   pari_sp av = avma;
    2721           0 :   GEN u = get_FpXQX_mod(S);
    2722             :   long s;
    2723           0 :   if (lgefint(p)==3)
    2724             :   {
    2725           0 :     ulong pp = p[2];
    2726           0 :     long vT = get_FpX_var(T);
    2727           0 :     s = FlxqX_nbfact(ZXXT_to_FlxXT(S,pp,vT), ZXT_to_FlxT(T,pp), pp);
    2728             :   }
    2729           0 :   else if (isabsolutepol(u))
    2730           0 :     s = FpX_nbfactff(simplify_shallow(u), T, p);
    2731             :   else
    2732           0 :     s = ddf_to_nbfact(FpXQX_ddf_Shoup(S, FpXQX_Frobenius(S, T, p), T, p));
    2733           0 :   avma = av; return s;
    2734             : }
    2735             : long
    2736           0 : FqX_nbfact(GEN u, GEN T, GEN p)
    2737           0 : { return T ? FpXQX_nbfact(u, T, p): FpX_nbfact(u, p); }
    2738             : 
    2739             : static GEN
    2740           0 : FpXQX_factor_Berlekamp_i(GEN f, GEN T, GEN p)
    2741             : {
    2742           0 :   if (lgefint(p)==3)
    2743             :   {
    2744           0 :     ulong pp = p[2];
    2745             :     GEN M;
    2746           0 :     long vT = get_FpX_var(T);
    2747           0 :     if (pp==2)
    2748             :     {
    2749           0 :       M = F2xqX_factor_Cantor(ZXX_to_F2xX(f, vT),  ZX_to_F2x(get_FpX_mod(T)));
    2750           0 :       return mkvec2(F2xXC_to_ZXXC(gel(M,1)), gel(M,2));
    2751             :     }
    2752           0 :     M = FlxqX_Berlekamp_i(ZXX_to_FlxX(f, pp, vT),  ZXT_to_FlxT(T, pp), pp);
    2753           0 :     return mkvec2(FlxXC_to_ZXXC(gel(M,1)), gel(M,2));
    2754             :   }
    2755           0 :   return FpXQX_Berlekamp_i(f, T, p);
    2756             : }
    2757             : GEN
    2758           0 : FpXQX_factor_Berlekamp(GEN x, GEN T, GEN p)
    2759           0 : { pari_sp av = avma; return gerepilecopy(av, FpXQX_factor_Berlekamp_i(x,T,p)); }
    2760             : 
    2761             : static GEN
    2762        2389 : FpXQX_factor_i(GEN f, GEN T, GEN p)
    2763             : {
    2764        2389 :   if (lgefint(p)==3)
    2765             :   {
    2766        2219 :     ulong pp = p[2];
    2767             :     GEN M;
    2768        2219 :     long vT = get_FpX_var(T);
    2769        2219 :     if (pp==2)
    2770             :     {
    2771         763 :       M = F2xqX_factor_Cantor(ZXX_to_F2xX(f, vT),  ZX_to_F2x(get_FpX_mod(T)));
    2772         763 :       return mkvec2(F2xXC_to_ZXXC(gel(M,1)), gel(M,2));
    2773             :     }
    2774        1456 :     M = FlxqX_factor_Cantor(ZXX_to_FlxX(f, pp, vT),  ZXT_to_FlxT(T, pp), pp);
    2775        1456 :     return mkvec2(FlxXC_to_ZXXC(gel(M,1)), gel(M,2));
    2776             :   }
    2777         170 :   return FpXQX_factor_Cantor(f, T, p);
    2778             : }
    2779             : GEN
    2780        2389 : FpXQX_factor(GEN x, GEN T, GEN p)
    2781        2389 : { pari_sp av = avma; return gerepilecopy(av, FpXQX_factor_i(x,T,p)); }
    2782             : 
    2783             : long
    2784        2975 : FlxqX_is_squarefree(GEN P, GEN T, ulong p)
    2785             : {
    2786        2975 :   pari_sp av = avma;
    2787        2975 :   GEN z = FlxqX_gcd(P, FlxX_deriv(P, p), T, p);
    2788        2975 :   avma = av; return degpol(z)==0;
    2789             : }
    2790             : 
    2791             : long
    2792      252742 : FqX_is_squarefree(GEN P, GEN T, GEN p)
    2793             : {
    2794      252742 :   pari_sp av = avma;
    2795      252742 :   GEN z = FqX_gcd(P, FqX_deriv(P, T, p), T, p);
    2796      252742 :   avma = av; return degpol(z)==0;
    2797             : }
    2798             : 
    2799             : /* as RgX_to_FpXQ(FqX_to_FFX), leaving alone t_FFELT */
    2800             : static GEN
    2801         350 : RgX_to_FFX(GEN x, GEN ff)
    2802             : {
    2803             :   long i, lx;
    2804         350 :   GEN p = FF_p_i(ff), T = FF_mod(ff), y =  cgetg_copy(x,&lx);
    2805         350 :   y[1] = x[1]; if (degpol(T) == 1) T = NULL;
    2806        1120 :   for (i = 2; i < lx; i++)
    2807             :   {
    2808         770 :     GEN c = gel(x,i);
    2809         770 :     gel(y,i) = typ(c) == t_FFELT? c: Fq_to_FF(Rg_to_Fq(c,T,p), ff);
    2810             :   }
    2811         350 :   return y;
    2812             : }
    2813             : 
    2814             : #define code(t1,t2) ((t1 << 6) | t2)
    2815             : /* Check types and replace F by a monic normalized FpX having the same roots
    2816             :  * Don't bother to make constant polynomials monic */
    2817             : static GEN
    2818      104713 : factmod_init(GEN f, GEN *pD, GEN *pT, GEN *pp)
    2819             : {
    2820      104713 :   const char *s = "factormod";
    2821      104713 :   GEN T = NULL, p = NULL, D = *pD;
    2822      104713 :   if (typ(f) != t_POL) pari_err_TYPE(s,f);
    2823      104713 :   if (!D)
    2824             :   {
    2825      103439 :     long pa, t = RgX_type(f, pp, pT, &pa);
    2826      103439 :     if (t == t_FFELT) return f;
    2827           0 :     *pD = gen_0;
    2828           0 :     if (t != t_INTMOD && t != code(t_POLMOD,t_INTMOD)) pari_err_TYPE(s,f);
    2829           0 :     return RgX_to_FqX(f, *pT, *pp);
    2830             :   }
    2831        1274 :   switch(typ(D))
    2832             :   {
    2833         504 :     case t_INT: p = D; break;
    2834         350 :     case t_FFELT: { *pD = NULL; *pT = D; return RgX_to_FFX(f,D); }
    2835             :     case t_VEC:
    2836         413 :       if (lg(D) == 3)
    2837             :       {
    2838         413 :         p = gel(D,1);
    2839         413 :         T = gel(D,2);
    2840         413 :         if (typ(p) == t_INT) break;
    2841           0 :         if (typ(T) == t_INT) { swap(T,p); break; }
    2842             :       }
    2843           7 :     default: pari_err_TYPE(s,D);
    2844             :   }
    2845         917 :   if (signe(p) <= 0) pari_err_PRIME(s,p);
    2846         910 :   if (T)
    2847             :   {
    2848         413 :     if (typ(T) != t_POL) pari_err_TYPE(s,p);
    2849         413 :     T = RgX_to_FpX(T,p);
    2850         413 :     if (varncmp(varn(T), varn(f)) <= 0) pari_err_PRIORITY(s, T, "<=", varn(f));
    2851             :   }
    2852         910 :   *pT = T; *pp = p; return RgX_to_FqX(f, T, p);
    2853             : }
    2854             : #undef code
    2855             : 
    2856             : static GEN
    2857        4851 : to_Fq(GEN x, GEN T, GEN p)
    2858             : {
    2859        4851 :   long i, lx, tx = typ(x);
    2860             :   GEN y;
    2861             : 
    2862        4851 :   if (tx == t_INT)
    2863         273 :     y = mkintmod(x,p);
    2864             :   else
    2865             :   {
    2866        4578 :     if (tx != t_POL) pari_err_TYPE("to_Fq",x);
    2867        4578 :     y = cgetg_copy(x,&lx); y[1] = x[1];
    2868        4578 :     for (i=2; i<lx; i++) gel(y,i) = mkintmod(gel(x,i), p);
    2869             :   }
    2870        4851 :   return mkpolmod(y, T);
    2871             : }
    2872             : static GEN
    2873         252 : to_Fq_pol(GEN x, GEN T, GEN p)
    2874             : {
    2875         252 :   long i, lx = lg(x);
    2876         252 :   if (lx == 2)
    2877             :   {
    2878          21 :     GEN y = cgetg(3,t_POL); y[1]=x[1];
    2879          21 :     gel(y,2) = mkintmod(gen_0,p); return y;
    2880             :   }
    2881         231 :   for (i = 2; i < lx; i++) gel(x,i) = to_Fq(gel(x,i),T,p);
    2882         231 :   return x;
    2883             : }
    2884             : static GEN
    2885         189 : to_Fq_fact(GEN fa, GEN T, GEN p)
    2886             : {
    2887         189 :   GEN P = gel(fa,1);
    2888         189 :   long j, l = lg(P);
    2889         189 :   p = icopy(p); T = FpX_to_mod(T, p);
    2890         189 :   for (j=1; j<l; j++) gel(P,j) = to_Fq_pol(gel(P,j), T,p);
    2891         189 :   return fa;
    2892             : }
    2893             : static GEN
    2894         224 : to_FqC(GEN P, GEN T, GEN p)
    2895             : {
    2896         224 :   long j, l = lg(P);
    2897         224 :   p = icopy(p); T = FpX_to_mod(T, p);
    2898         224 :   for (j=1; j<l; j++) gel(P,j) = to_Fq(gel(P,j), T,p);
    2899         224 :   return P;
    2900             : }
    2901             : 
    2902             : static GEN
    2903         329 : FpXC_to_mod(GEN x, GEN p)
    2904         329 : { pari_APPLY_type(t_COL, FpX_to_mod(gel(x,i),p)) }
    2905             : static GEN
    2906          14 : FqXC_to_mod(GEN x, GEN T, GEN p)
    2907          14 : { pari_APPLY_type(t_COL, FqX_to_mod(gel(x,i), T, p)) }
    2908             : 
    2909             : GEN
    2910         742 : factmod(GEN f, GEN D)
    2911             : {
    2912             :   pari_sp av;
    2913             :   GEN y, F, P, E, T, p;
    2914         742 :   f = factmod_init(f, &D, &T,&p);
    2915         735 :   if (!D) return FFX_factor(f, T);
    2916         518 :   av = avma;
    2917         518 :   F = FqX_factor(f, T, p); P = gel(F,1); E = gel(F,2);
    2918         518 :   if (!T)
    2919             :   {
    2920         329 :     y = cgetg(3, t_MAT);
    2921         329 :     gel(y,1) = FpXC_to_mod(P, p);
    2922         329 :     gel(y,2) = Flc_to_ZC(E); return gerepileupto(av, y);
    2923             :   }
    2924         189 :   F = gerepilecopy(av, mkmat2(simplify_shallow(P), Flc_to_ZC(E)));
    2925         189 :   return to_Fq_fact(F, T, p);
    2926             : }
    2927             : GEN
    2928         231 : simplefactmod(GEN f, GEN D)
    2929             : {
    2930         231 :   pari_sp av = avma;
    2931             :   GEN T, p;
    2932         231 :   f = factmod_init(f, &D, &T,&p);
    2933         231 :   if (lg(f) <= 3) { avma = av; return trivial_fact(); }
    2934         168 :   f = D? FqX_degfact(f, T, p): FFX_degfact(f, T);
    2935         168 :   return gerepileupto(av, Flm_to_ZM(f));
    2936             : }
    2937             : static GEN
    2938          14 : sqf_to_fact(GEN f)
    2939             : {
    2940          14 :   long i, j, l = lg(f);
    2941          14 :   GEN P = cgetg(l, t_COL), E = cgetg(l, t_COL);
    2942          35 :   for (i = j = 1; i < l; i++)
    2943          21 :     if (degpol(gel(f,i)))
    2944             :     {
    2945          21 :       gel(P,j) = gel(f,i);
    2946          21 :       gel(E,j) = utoi(i); j++;
    2947             :     }
    2948          14 :   setlg(P,j);
    2949          14 :   setlg(E,j); return mkvec2(P,E);
    2950             : }
    2951             : 
    2952             : GEN
    2953          35 : factormodSQF(GEN f, GEN D)
    2954             : {
    2955          35 :   pari_sp av = avma;
    2956             :   GEN F, T, p;
    2957          35 :   f = factmod_init(f, &D, &T,&p);
    2958          35 :   if (lg(f) <= 3) { avma = av; return trivial_fact(); }
    2959          14 :   if (!D)
    2960           7 :     F = sqf_to_fact(FFX_factor_squarefree(f, T));
    2961             :   else
    2962             :   {
    2963           7 :     F = sqf_to_fact(FqX_factor_squarefree(f,T,p));
    2964           7 :     gel(F,1) = FqXC_to_mod(gel(F,1), T,p);
    2965             :   }
    2966          14 :   settyp(F,t_MAT); return gerepilecopy(av, F);
    2967             : }
    2968             : GEN
    2969          28 : factormodDDF(GEN f, GEN D)
    2970             : {
    2971          28 :   pari_sp av = avma;
    2972             :   GEN F, T, p;
    2973          28 :   f = factmod_init(f, &D, &T,&p);
    2974          28 :   if (lg(f) <= 3) { avma = av; return trivial_fact(); }
    2975          14 :   if (!D) return FFX_ddf(f, T);
    2976           7 :   F = FqX_ddf(f,T,p);
    2977           7 :   gel(F,1) = FqXC_to_mod(gel(F,1), T,p);
    2978           7 :   gel(F,2) = Flc_to_ZC(gel(F,2));
    2979           7 :   settyp(F, t_MAT); return gerepilecopy(av, F);
    2980             : }
    2981             : 
    2982             : GEN
    2983         693 : factormod0(GEN f, GEN p, long flag)
    2984             : {
    2985         693 :   if (flag == 0) return factmod(f,p);
    2986         231 :   if (flag != 1) pari_err_FLAG("factormod");
    2987         231 :   return simplefactmod(f,p);
    2988             : }
    2989             : GEN
    2990      103677 : polrootsmod(GEN f, GEN D)
    2991             : {
    2992             :   pari_sp av;
    2993             :   GEN y, T, p;
    2994      103677 :   f = factmod_init(f, &D, &T,&p);
    2995      103670 :   if (!D) return FFX_roots(f, T);
    2996         308 :   av = avma; y = FqX_roots(f, T, p);
    2997         280 :   if (!T) return gerepileupto(av, FpC_to_mod(y,p));
    2998         224 :   y = gerepilecopy(av, simplify_shallow(y));
    2999         224 :   return to_FqC(y, T, p);
    3000             : }
    3001             : 
    3002             : GEN /* OBSOLETE */
    3003           0 : rootmod0(GEN f, GEN p, long flag) { (void)flag; return polrootsmod(f,p); }
    3004             : GEN /* OBSOLETE */
    3005           0 : factorff(GEN f, GEN p, GEN T)
    3006             : {
    3007           0 :   pari_sp av = avma;
    3008           0 :   GEN D = (p && T)? mkvec2(T,p): NULL;
    3009           0 :   return gerepileupto(av, factmod(f,D));
    3010             : }
    3011             : GEN /* OBSOLETE */
    3012           0 : polrootsff(GEN f, GEN p, GEN T)
    3013             : {
    3014           0 :   pari_sp av = avma;
    3015           0 :   GEN D = (p && T)? mkvec2(T,p): NULL;
    3016           0 :   return gerepileupto(av, polrootsmod(f, D));
    3017             : }

Generated by: LCOV version 1.13