Lines Matching defs:token

67 #define eat(p)		do{if ((p)->token.push)(p)->token.push=0;else (p)->cursor+=(p)->token.len;}while (0)
125 Token_t token; /* token lookahead */
639 static int token(Cenv_t*);
648 int l = env->token.len;
657 sp = (char*)env->cursor + env->token.len;
685 env->token.min = n;
701 else if (n < env->token.min)
707 env->token.max = n;
740 env->token.len = sp - (char*)env->cursor;
748 env->token.len++;
749 env->token.lex = 0;
757 env->token.len += ep - sp;
760 env->token.lex = c;
775 env->token.len += ep - sp;
793 env->token.len++;
809 if (env->type == KRE && *(env->cursor + env->token.len) == '-' && *(env->cursor + env->token.len + 1) == '(')
811 env->token.len++;
812 env->token.att = 1;
814 if (env->type == KRE && *(env->cursor + env->token.len) == '(')
816 env->token.len++;
822 env->token.lex = c;
825 env->token.lex = 0;
828 env->token.lex = c;
840 env->token.len = l;
877 sp = (char*)env->cursor + env->token.len;
902 return token(env);
918 token(register Cenv_t* env)
923 if (env->token.push)
924 return env->token.lex;
925 env->token.att = env->token.esc = 0;
926 if ((env->token.len = MBSIZE(env->cursor)) > 1)
927 return env->token.lex = C_MB;
928 env->token.lex = 0;
978 env->token.esc = env->token.len;
979 env->token.len += MBSIZE(env->cursor + 1);
987 env->token.esc = env->token.len;
988 env->token.len += MBSIZE(env->cursor + 1);
1024 while (*(env->cursor + env->token.len) == c)
1025 env->token.len++;
1229 env->token.len = 1;
1231 if (env->token.len > 1 || w != T_BAD)
1233 if (env->token.len == 1 && (f = classfun(w)))
1249 if (env->token.len > 1 || w >= 0 && w < T_META)
1258 env->cursor += env->token.len;
1497 env->token.len = 1;
1499 if (env->token.len > 1 || w != T_BAD)
1501 if (env->token.len == 1 && (f = classfun(w)))
1515 if (env->token.len > 1 || w >= 0 && w < T_META)
1520 env->cursor += env->token.len;
1800 switch (token(env))
1824 m = env->token.min;
1825 n = env->token.max;
1830 if (env->token.att)
1833 switch (token(env))
2056 beg = env->pattern == env->cursor - env->token.len;
2057 if (!(c = env->token.lex) && (c = *env->cursor))
2059 env->token.len = 0;
2094 env->token.push = 1;
2112 if (token(env) == T_CLOSE)
2245 c = token(env);
2259 switch (token(env))
2439 if (token(env) != T_CLOSE)
2506 env->token.len = 1;
2531 c = token(env);
2603 while ((c = token(env)) < T_META && s < &buf[sizeof(buf) - env->token.len])
2614 c = (c == C_ESC) ? env->token.lex : mbchar(p);
2631 n = env->token.len - env->token.esc;
2718 tok = env->token;
2722 if (env->token.att)
2736 if (token(env) != T_CLOSE)
2757 env->token = tok;
2823 env->token.lex = T_STAR;
2824 env->token.push = 1;
2829 env->token.lex = T_PLUS;
2830 env->token.push = 1;
2874 if (!(e = seq(env)) || !(env->flags & REG_AUGMENTED) || token(env) != T_AND)
2902 else if (token(env) != T_BAR)
3315 env.token.lex = 0;
3316 env.token.push = 0;