ראשוני המתיישבים באזור אלוני אבא היו אנשי כת הטמפלרים הגרמניים, אשר בחלומם ליישב את ארץ הקודש, הקימו בשנת 1907 מושבה חקלאית קטנה ושמה ”ולדהיים" (Waldheim, בגרמנית: ”נווה יער"). המקום הוקם בסמוך ליישוב הטמפלרי בית לחם הגלילית והתקיים עד לגירושם של הגרמנים בשנת 1948.
היישוב אוכלס מחדש בשנת 1948 על ידי גרעין של תנועת הנוער הציוני, שנוצר מאיחוד של חניכים מרומניה, גרמניה ואוסטריה. לאחר ארבע שנים של גיבוש ועבודה במושבה הרצליה עלה הגרעין להתיישבות ביישוב הגרמני ”ולדהיים", שנכבש על ידי כוחות חי"ש של ההגנה במלחמת העצמאות. לאחר שלוש שנים בנקודת הקבע הוחלט לאמץ צורת חיים של מושב שיתופי. היישוב נקרא על שם אחד החברים הראשונים בגרעין המייסד – הצנחן אבא ברדיצ‘ב ז"ל, אשר נרצח על ידי הגרמנים בעת שפעל בגרמניה להצלת שארית הפליטה שם.
אחד הסממנים המיוחדים הקיימים באלוני אבא הוא הכנסייה האוונגלית שהוקמה בשנת 1916.