Нужно определять ОС или тип устройства по сети, я помню как то наталкивался на подобную либу, она связана с анализом SYN - ACT - RST и прочего, но как она называется хоть убей не помню...

точно уверены что такая существует ? Я как то искал, не нашел. Вообще народ, как я высил, пользует nmap с выдачей результата в xml. Результат парсят и вроде даже довольны

Точно, сам когда-то щупал её, но не долго, потому и забыл...

snmp, если есть. Некоторые админы его так выставляют, что им еще и рулить можно.
phpinfo() для ОСи.

nmap не всегда.

далеко не всегда это работает: можно так настроить машину, что хрен догадаешься, какая ось.
но для юзерских машин проще - юзеры не парятся с настройкой, как админы.
вообще, информация об оси - довольно бесполезная вещь. для сети важнее браузер.