فکر می کنم این طوریه:
قاعدتا وقتی براکت رو داریم باید حد چپ و راست رو جدا کنیم و جداگانه حدود چپ و راست رو مشخص کنیم.اما چون داخل براکت x به توان دو رسیده دیگه اینکار لازم نیست.کافیه براکت رو از حد بالا حذف کنید و اونقدر از قاعده هوپیتال استفاده کنید تا به جواب غیر مبهم برسید.

فکر کنم اشتباه متوجه شدید.منظور من از حذف براکت‌، حذف کل براکت و x^2 داخلش نبود.فقط براکت رو حذف کنید و بذارید x^2 بمونه.یعنی مخرج رو به صورت [tex]x-x^{2}[/tex] در نظر بگیرید

دوست عزیز , وقتی x به سمت صفر میل می کند و جز صحیح به توان ۲ است یعنی محدوده x های بزرگتر و مساوی صفر و حد چپ و راست این جز صحیح مساوی صفر مثبت و برابر می شود. و جواب آخر هم همان ۱/۸- هست.