ドイツに生まれる。美術学校の教師をしたのち、バウハウスに学ぶ。1925年からはバウハウスで教えるようになり、バウハウス閉鎖後はアメリカに渡る。アメリカでもブラック・マウンテン・カレッジで教師をしたり、エール大学美術学部長を務めた。アルバースは画家であると同時に、すぐれた教育者でもあった。バウハウス以降は色彩の相互関係をモチーフとした幾何学的抽象を探求した。バウハウス的な造形理論をアメリカにもたらした功績は大きい。アメリカでの教え子の中にはロバート・ラウシェンバーグやサイ・トゥオンブリなどがいる。