Фундамент каменной Церкви был заложен в 1884 году, строительство велось на пожертвования бирского купца 2-й гильдии Гавриила Степановича Кондюрина. Летом 1889 года Церковь и колокольня были построены, а 17 сентября Церковь была уже освящена в честь Святых Первоверховных Апостолов Петра и Павла.
В 1890 году в состав прихода входили: Камбарский завод, д. Балаки, а также имелась приписная церковь Михаила Архангела с. Михайловского, освященная 15 сентября 1903 года.
Можно заключить, эта церковь стояла на нынешней территории машзавода, примерно на уровне внутризаводского скверика с бюстом В. И. Ленина (не путать со сквером на центральной площади с фигурой Ленина на высоком постаменте). Продольная ось церкви совпадала с осью южной, продольной стены тепловозного цеха. Церковь разрушена в конце 30-х годов ХХ в. в связи с расширением машиностроительного завода.