Samalla tavoin miten pii:n desimaalejakin lasketaan pitkälle, eli aina tarkentuu se luku, iteroimalla siis, tähän tyyliin, esim; 10/12 10/543 10/3444 ....
Ja nimeä se omalle nimellesi kuten joku Neperin lukukin, annat sille sitten nimeksi: Minunluku.
Tee oma irrationaaliluku.
3
179
Vastaukset
- Anonyymi
Sitten kun tuo jakaja tulee liian suureksi, eli tietokoneen bittileveys tulee liian suureksi ei riitä enää esittämään, pitäisi olla joku vähintäänkin 4096-bittinen prosessori, niin:
Kaikille on varmaan opetettu alakoulussa miten jakolasku tehdään käsin, ohjelma joka käsittelee lukuja tekstinä, samalla tavoin kuin jakolasku tehdään käsin, ei ole bittileveys-rajoituksia. - Anonyymi
Tuollaisesta laskennan bittileveyden rajallisuudesta tuli mieleen eräs esimerkki, ei riittänyt laskennan tarkkuus eräässä direct3d-sovelluksessa 32-bittinen floating point arvo näytönohjaimelle, tuli epätarkkuus esiin.
Korjautui kun vaihdoin pelkästään muuttujan määrityksen ohjelma koodissa double eli 64-bittisiksi desimaaliluvuiksi.
Oikeasti jos on tietokoneessa grafiikkakiihdytin, yleensä 256-bittileveydellä käsittelevät lukuja, niin sellaisia voi käyttää laskennassa, vaikka ei piirtäisikään mitään 3d-juttuja ruudulle, vaan parempaa prosessoria laskennassa pelkästään. - Anonyymi
Tuossa 3d-sovelluksessani, josta tuli FPS-shooter sitten, niin, c-kääntäjäni eli visual studio ilmoitti bittileveydestä varoituksen: Possible data loss in this converting 32-bit float value to 64-bit floating point value.
En välittänyt, mutta sitten huomasin että jooh, tuli vika sitten kun laskentatarkkuus ei riittänytkään se 32-bittinen.
Ketjusta on poistettu 0 sääntöjenvastaista viestiä.
Luetuimmat keskustelut
- 1043404
- 883083
Tykkään susta
Elämäni loppuun asti. Olet niin suuresti siihen vaikuttanut. Tykkäsit tai et siitä201943- 691906
- 381877
- 211741
- 241697
Pettymys! Tähdet, tähdet -kisassa tämä erikoisjakso pois - Pistänyt artistit todella lujille!
Tähdet, tähdet -kisa on edennyt genrestä toiseen. Mutta erästä monen toivomaa erikoisjaksoa ei tällä kaudella nähdä. Voi341449Onko meillä
Molemmilla nyt hyvät fiilikset😢ei ainakaan mulla mutta eteenpäin on mentävä😏ikävä on, kait se helpottaa ajan myötä. Ko91349- 481337