Stockage de données énormes


#1

Nouvelle catégorie un peu au ralenti :slight_smile:

Quel système de bases de données utilisez-vous pour stocker vos data (je parle de millions de lignes) ?

Moi c’est mongoDB. On lit et on entend souvent que SQL n’est pas “scalable” (à prendre avec des pincettes pour les puristes).

Avez-vous des retours où vous avez pu constater des limites avec SQL ?


#2

Je tourne aussi sous MongoDB. Plus souple.


#3

Tu as des plans ? je suis actuellement chez mLab et au bout de quelques dizaines de GB ça devient vite cher. Après c’est super bien géré je trouve.


#4

Je suis également chez mLab. Je n’ai pas envie de devoir gérer plus que ce que je fais déjà en fait. Et vu le nombre de bdd sous MongoDB qui ont disparu suite aux hacks, je préfère rester avec eux. (A savoir que les hacks étaient possibles car les bases de données n’étaient pas correctement installées - genre sans réelle sécurité - surement par des personnes novices)

Je commence à m’intéresser à DynamoDB sinon pour entièrement passer sur du Serverless. J’y suis pas encore.


#5

Access ? :joy:


#6

Ça existe encore :tired_face: :joy: ?


#7

On utilise tous évidemment les CSVs !!! :sweat_smile:

MongoDB, top, couplé à du SQL si jamais besoin de transactionnel.

Pour l’histoire des hacks sur MongoDB, ce n’est même pas une histoire de DB pas correctement installées, mais c’est carrément MongoDB qui s’installe automatiquement en laissant l’accès remote ouvert à tout me monde et n’importe qui (moi-même je me suis fait avoir).

N’importe quel soft/DB lorsqu’on l’installe ne devrait pas laisser volontairement les accès remote ouverts comme ça… Mais bon, avec un rapide cron et commande de backup sur ses collections/DBs MongoDB, et hop les données sont en sécurité :slight_smile:


#8

Yes, disons que je considère le système mal installé si tu laisses les accès remote ouverts :stuck_out_tongue_winking_eye:

Mais justement, comme c’est un outil que je ne maitrise pas, je préfère laisser la gestion à des pros et me concentrer sur autre chose :slight_smile:


#9

Pour MongoDB, OVh a lancer en beta un produit qui peut interesser… Inscription & Utilisation gratuite : https://www.runabove.com/SaaSDBMongoDB.xml

*RunAbove est la plateform de test d’OVH, inutile de parler de la réputation d’OVH :wink:


#10

MongoDB instances are standalone for now, replica sets coming soon :open_mouth: :rage: faut pas s’amuser avec des données importantes. Tu sais si ce sont des ressources partagées ou dédiées ? Tu as testé ?


#11

aucune idée, j’ai pas encore testé ce produit…


#12

les perfs de sql s’effondrent tant que ça? Si vous avez des liens, je suis preneur. J’ai un sql serveur entreprise.


#13

J’avais assisté à une conf où les intervenants disaient qu’une partie de facebook et d’autres grosses boites (Google, Amazon) avait des serveurs SQL. Et les intervenants disaient aussi que contrairement à ce qu’on dit SQL peut être scalable mais tu dois augmenter la puissance de ta machine (vertical scalability) et non rajouter un noeud comme avec certaines bases NoSql (horizontal).
APrès il faut te dire aussi que la composante relationnelle de certaines apps est tellement forte qu’on est obligé d’avoir une base SQL et que ça marche très bien.
Petite question : quelle est le volume de tes données ? et à quelle fréquences les données sont générées ? tout dépend de l’application. De mémoire AirBnb utilise MySQL !


#14

Pour le moment, ma base ne fait que 500Mo. Ca va encore très bien mais je me demandais pour l’avenir. A la limite, je ferai peut être une solution hybride (Sql + MongoDb).


#15

Je pense que l’intérêt du NoSQL est aussi dans la modularité des paramètres. Tu peux à la volée rajouter/enlever des attributs sans devoir restructurer ta base.

Si tu as une liste de produits en bases avec des t-shirts, des tasses à café et des magnets par exemple, ils ne partageront pas les mêmes attributs alors qu’ils restent des produits avant tout. Tu pourrais tous les enregistrer dans la même base en les parsant différemment suivant leur type par ex.

Possible en SQL ?

Ah et je ne suis pas un expert en BDD donc pas taper trop fort. :wink:


#16
  • “Why not write to /dev/null ?”
  • “If /dev/null is web scalable and fast, I’ll use it”
    :joy:

#17

:joy: :joy: :joy: Excellent !


#18

“MySQL is slow as a dog.” xD

Omfg j’adore ta vidéo :joy:


#19

Perso je suis en postgre, et ca tourne bien. 162M lignes (…) avec les indexs qui vont bien, ca passe sans soucis


#20

Ca te coute cmb ?


Team : CamilleBriceJulienVivianBorisXavierSteven.