Mir erschließt sich jetzt überhaupt nicht, warum Deine RJ45-Kabel nicht gehen sollten, das RJ11-Kabel aber sehr wohl.
Du hast die beiden Telefondrähte (kurz CuDa für Kupfer-Doppelader) an der Dose. Diese werden in Deutschland auch schlicht a und b genannt. Bei den TAE-Dosen sind die einfach ganz links angeschlossen - egal, ob da insgesamt vier oder sechs Klemmen sind (bei neuen Dosen sind oftmals W und E in der Mitte weggelassen worden). Je nach verwendetem Kabel ist also z.B. links rot und daneben rot mit einem Ring. Die anderen beiden Drähte mit zwei Ringen kannste in diesem Fall vergessen.
Technisch falsch machen kann man da nichts - selbst wenn die Drähte verkehrt herum angeschlossen werden, denn es ist ist ja Wechselstrom. Man soll halt immer nur zwei miteinander verdrillte Drähte nehmen (im Englischen Twisted Pair oder auch TP genannt), um Störungen von außen zu minimieren. Also entweder die beiden Drähte "rot" und "ein Ring" oder die beiden Drähte "zwei Ringe". Natürlich gibt es auch weiße Kabel mit grünem Ring oder rot/schwarze bzw. rot/blaue Kabel etc. Aber das braucht Dich ja nicht zu kümmern. Wichtig ist bei Dir noch, dass auch auf der anderen Seite des Kabels, am APL im Keller, alles richtig angeschlossen ist. Und dass natürlich auch unterwegs nichts kaputt ist.
Am TAE-Stecker hast Du dann ebenfalls zwei Kontakte für eben diese beiden Telefondrähte. Der Stecker kommt in die Mitte der Dose. Die Buchse sollte mit "F" wie "Fernsprecher" beschrieben sein. An Deinem TAE-Stecker siehst Du unten eine Plastik-Nase, die *nicht* in der Mitte des Steckers sein darf! Die Stecker mit der Nase in der Mitte sind nämlich "N", also "Nicht-Fernsprecher". Hört sich alles ziemlich bescheuert an, ist aber so
Am RJ-45 Stecker hast Du zwei Pins in der Mitte, wo letzten Endes wieder die beiden Telefondrähte anliegen. Du hast also durchgängig zwei Drähte, von Telefónica bis zur FRITZ!Box...
Was also sollte an Deinem RJ-11 Kabel anders sein? Kannst Du die Kabel bitte einmal unter o.g. Gesichtspunkten genau unter die Lupe nehmen? Auch wegen der Plastik-Nase am TAE-Stecker?