Das Captcha-Modul wird von Pixtacy eigentlich nur noch aus historischen Gründen unterstützt. Das Anmeldeformular besitzt noch andere (für den Benutzer unsichtbare) Mechanismen, um Spam zu unterbinden, und die funktionieren erfahrungsgemäß sehr gut. Bevor Sie deshalb lange den Fehler suchen, würde ich das Modul einfach abschalten.