Летом того же 2001 года Майкл Фипс (Michael Phipps), почувствовав, что BeOS скоро канет в Лету, решился на дело вполне разумное, с его точки зрения, а именно воссоздать BeOS с нуля, но в качестве проекта с открытым исходным кодом. Он рассудил, что раз проект открытый, то он не может принадлежать какому-либо человеку или компании, а следовательно, система не исчезнет просто потому, что фирма обанкротилась или проект покинули основные разработчики. Создать операционную систему - это чрезвычайно тяжелая работа, а если еще учесть, что разработчики будут работать над ней абсолютно бесплатно, то это покажется чем-то фантастическим.
Итак, целью было полностью воссоздать последний официальный релиз BeOS R5 - идея воистину сумасшедшая. Изначально проект назывался OpenBeOS (сокращенно OBOS), но позже путем голосования было решено переименовать проект в Haiku. Новое название проекта было выбрано в честь сообщений об ошибках, которые выводил браузер NetPositive. Они представляли собой японские трехстрочные стишки-нескладушки, которые называются хайку.
Благодаря тому, что BeOS имела модульную структуру, была возможность по отдельности воссоздать и заменить каждый элемент системы, а также попутно тестировать и отлаживать. Как упоминалось ранее, Be Inc. открыла такие компоненты, как Deskbar и Tracker. Первый является аналогом панели задач BWindows, а второй файловым менеджером. Одним из первых компонентов, который был заменен, стал хранитель экрана (ScreenSaver Kit). Когда все части нового компонента были закончены, Фипс просто заменил его в системе BeOS и он заработал. Это лишний раз доказало разработчикам, что они избрали верный путь и таким образом смогут заменить все элементы системы. В апреле 2012 года был создан прототип AppServer (сервер приложений), который отвечает за отрисовку графического интерфейса.
Итак, работа над Haiku шла полным ходом. И Майкл Фипс в 2003 году создал некоммерческую организацию Haiku Inc., которая занималась организационной частью проекта. Она контролирует развитие проекта, принимает пожертвования, а также обладает правами на торговую марку Haiku, логотип, веб-сайт и, конечно же, исходный код. Кстати говоря, исходный код распространяется под весьма либеральной лицензией MIT. Данная лицензия разрешает полное использование кода всем желающим, даже частным компаниям в коммерческих целях.
В конце марта 2005 года в Haiku было запущено первое самостоятельное графическое приложение. К этому моменту Haiku уже не использовала код или бинарные файлы, которые бы принадлежали BeOS, другими словами - она уже стала самостоятельной системой, включая сетевой стек и драйверы. Сетевой стек был разработан полностью свой, а также был создан слой совместимости с сетевым стеком FreeBSD. В декабре 2005 года был нанят Аксель Дерфлер (Axel Dorfler) для работы над Haiku. Аксель остается одним из основных разработчиков системы и по сей день. Тогда он работал над загрузкой с CD, SMP, AppServer и непосредственно ядром системы. Ядром системы является слегка модифицированное ядро NewOS, которое было написано бывшим инженером Be Inc. Тревисом Гейзельбрехтом iTravis Geiselbrecht. Также стоит отметить, что в отличие от BeOS, которая была основана на микроядерной архитектуре, Haiku имеет гибридное ядро.
В 2007 году Майкл Фипс заявил, что вынужден покинуть проект по семейным обстоятельствам, и бразды правления Haiku Inc. перешли в другие руки. Во главе стали: Аксель Дерфлер в качестве президента, Бруно Альбукерке (Bruno G. Albuquerque) в качестве вице-президента компании (кстати, Бруно работает в Google), казначеем был назначен Райан Ливенгуд (Ryan Leavengood), секретарем - Матью Мадиа (Matthew Madia), пятым членом совета директоров стал Юриас Маккалоу (Urias McCullough).
В октябре 2007 года был готов к тестированию драйвер AHCI SATA. В 2008 году Haiku достигла self-hosting'a, то есть систему можно было собрать из исходных кодов прямо в самой же Haiku. Это событие стало знаковым, так как теперь Haiku не зависела от других систем. Также в этом году была добавлена поддержка Bluetooth.