Для phpBB есть плагин специальный, который включает защиту капчей от гостей. Есть, который еще включает защиту при регистрации - проверяет на "человечность" посетителя.
Поиск вам в помочь.
Сначала защититесь от спама, а потом привлекайте посетителей - но про посетителей, это уже другой вопрос, плагинов специальных нет.