Queneau, Mathematik und 'Potentielle Literatur