ترجع شهرته إلى عمله في الرياضيات حيث حلَّ معادلات الدرجة الثانية بطرق هندسية وجبرية. كما نظم المعادلات وحاول حلها كلها، ووصل إلى حلول هندسية جزئية لمعظمها. وقد بحث في نظرية ذات الحدين عندما يكون الأس صحيحاً موجباً، ووضع طرقاً لإيجاد الكثافة النوعية. كما برع في الفلك أيضاً، وقد طلب منه السلطان ملكشاه سنة 467 هـ/1074 م مساعدته في تعديل التقويم الفارسي القديم. ويقول سارطون إن تقويم الخيام كان أدق من التقويم الجريجوري.